August 7, 2022

BNA-Germany

Folgen Sie den großen Nachrichten aus Deutschland, entdecken Sie ausgefallene Nachrichten aus Berlin und anderen Städten. Lesen Sie ausführliche Funktionen, die Ihnen helfen, die Denkweise der Deutschen zu verstehen.

Google feuerte Ingenieur Blake Lemoine, der sagte, LaMDA sei bei Bewusstsein

Google feuerte Ingenieur Blake Lemoine, der sagte, LaMDA sei bei Bewusstsein

Suspension

Blake Lemoine, ein Google-Ingenieur, der Er sagte der Washington Post Dass die KI des Unternehmens bewusst war, sagte das Unternehmen, es habe am Freitag gefeuert.

Lemoine sagte, er habe am Freitag eine Kündigungs-E-Mail des Unternehmens mit der Bitte um eine Videokonferenz erhalten. Er bat darum, dass ein Dritter an dem Treffen teilnimmt, sagte aber, dass Google dies ablehnte. Lemoine sagt, er spreche mit Anwälten über seine Möglichkeiten.

Lemoine arbeitete für eine verantwortliche Organisation für künstliche Intelligenz bei Google, und im Rahmen seiner Arbeit begann er im Herbst mit LaMDA, dem künstlichen Intelligenzsystem des Unternehmens zum Erstellen von Chatbots, zu sprechen. Er kam zu der Überzeugung, dass die Technologie nach der Aufzeichnung bewusst war, um zu testen, ob die KI diskriminierende oder Hassreden verwenden könnte.

Ein Google-Ingenieur, der glaubt, dass die künstliche Intelligenz des Unternehmens erreicht wurde

In einer Erklärung sagte Google-Sprecher Brian Gabriel, das Unternehmen nehme die KI-Entwicklung ernst und habe LaMDA elf Mal überprüft sowie ein Forschungspapier veröffentlicht, in dem die Bemühungen um eine verantwortungsvolle Entwicklung beschrieben werden.

„Wenn ein Mitarbeiter Bedenken hinsichtlich unserer Arbeit äußert, wie es Blake getan hat, prüfen wir sie umfassend“, fügte er hinzu. „Wir haben Blakes Behauptungen, LaMDA sei sensibel, als völlig unbegründet empfunden und mit ihm mehrere Monate daran gearbeitet, dies zu klären.“

Die Diskussionen führe ich auf die offene Unternehmenskultur zurück.

„Es ist bedauerlich, dass Blake sich trotz seiner langjährigen Beschäftigung mit diesem Thema immer noch dafür entscheidet, klare Beschäftigungs- und Datensicherheitsrichtlinien zu verletzen, die die Notwendigkeit des Schutzes von Produktinformationen beinhalten“, fügte Gabriel hinzu. „Wir werden unsere rigorose Entwicklung von Sprachmodellen fortsetzen und wünschen Blake alles Gute.“

Siehe auch  Die Tesla-Aktie wird deutlich billiger

Das Schießen von Lemoine wurde erstmals in gemeldet Big Tech-Newsletter.

Zitrone Interviews mit Lambda Es löste eine umfangreiche Diskussion über die jüngsten Fortschritte in der künstlichen Intelligenz, ein allgemeines Missverständnis darüber, wie diese Systeme funktionieren, und die Verantwortung von Unternehmen aus. Google hat die Leiter seiner ethischen KI-Abteilung, Margaret Mitchell, gefeuert Timnit Gibrunachdem Hüten Sie sich vor Gefahren mit dieser Technologie verbunden.

Google hat Timnit Gebru als ausgesprochenen Kritiker unethischer KI engagiert. Dann wurde sie dafür gefeuert.

LaMDA verwendet die fortschrittlichsten großen Sprachmodelle von Google, eine Art künstlicher Intelligenz, die Text erkennt und erstellt. Forscher sagen, dass diese Systeme Sprache oder Bedeutung nicht verstehen können. Aber sie können täuschende Sprache erzeugen, die wie menschliche Sprache aussieht, weil sie auf riesige Datenmengen trainiert sind, die aus dem Internet gecrawlt wurden, um das nächstwahrscheinlichste Wort in einem Satz vorherzusagen.

Nachdem LaMDA mit Lemoine über die Figur und ihre Rechte gesprochen hatte, begann er mit weiteren Nachforschungen. Im April teilte er CEOs ein Google-Dokument mit dem Titel „Ist LaMDA sensibel?“ mit. Dazu gehörten einige seiner Gespräche mit LaMDA, in denen er behauptete, bei Bewusstsein zu sein. Zwei Google-Manager prüften seine Anschuldigungen und wiesen sie zurück.

Big Tech baut KI mit schlechten Daten. Also suchten Wissenschaftler nach besseren Daten.

Lemoine wurde zuvor im Juni wegen Verstoßes gegen die Vertraulichkeitsrichtlinie des Unternehmens in bezahlten Verwaltungsurlaub versetzt. Der Ingenieur, der den größten Teil seiner sieben Jahre bei Google damit verbracht hat, an proaktiver Forschung zu arbeiten, einschließlich Personalisierungsalgorithmen, sagte, er erwäge die Möglichkeit, sein eigenes KI-Unternehmen zu gründen, das sich auf kollaborative Videospiele zum Geschichtenerzählen konzentriert.

Siehe auch  Uber zeigt den Fahrern an, wie viel sie für die Annahme der Fahrt verlangen