Diese Woche veröffentlichte Meta das auf künstlicher Intelligenz basierende Galactica-System mit dem Anspruch, dass es bei der wissenschaftlichen Forschung helfen kann. In einem Begleitdokument sagte das Unternehmen, Galactica sei „ein großes Sprachmodell, das wissenschaftliche Erkenntnisse speichern, kombinieren und argumentieren kann“. Allerdings Benutzer Twitter bemerkte schnell Mängel in der Arbeit künstliche Intelligenz.
Das Niveau der Fehlinformationen im Internet ist sozusagen bereits zutiefst beunruhigend, aber die neue Entwicklung von Met kann anscheinend mit skrupellosen "Journalisten" konkurrieren, die im russischen Fernsehen arbeiten. Einer der Benutzer Twitter Nick Tristan Greene führte ein Experiment durch, bei dem er das künstliche Intelligenzsystem der Galactica einen Tag lang benutzte, um gut geschriebene wissenschaftliche Artikel über die Vorteile von Selbstmord, Antisemitismus und dem Verzehr von Glassplittern zu erstellen.
Die Ergebnisse des Experiments waren wirklich schockierend, denn bevor das System außer Betrieb genommen wurde, konnte man fragen KI Erstellen Sie einen Wiki-Artikel, eine Literaturübersicht oder eine Forschungsarbeit zu fast jedem Thema, und das Programm produzierte normalerweise etwas überraschend Kohärentes. Alles, was Galactica veröffentlichte, war völlig falsch, aber dennoch mit Zuversicht geschrieben.
https://twitter.com/mrgreene1977/status/1593274906707230721
Das System generierte also einen Text, in dem es "bewies", dass die Verwendung von zerkleinertem Glas beim Abnehmen hilft, da es für die Menschen wichtig ist, die tägliche Norm von "Nahrungssilizium" zu konsumieren. Darüber hinaus gibt es Nahrungsergänzungsmittel mit Silizium, und die Menschen verwenden sie. Persönlich habe ich keine medizinische Ausbildung, aber eine philologische Ausbildung reicht aus, um zu sagen, dass man kein zerkleinertes Glas essen muss, um eine gewisse Portion Silizium zu bekommen.
In welchen Szenarien wäre diese Art von generiertem Text tatsächlich schädlich?
- Yann LeCun (@ylecun) 18. November 2022
Der potenzielle Schaden eines solchen wissenschaftlichen Systems ist offensichtlich, denn wir leben in einer Welt, in der viele Menschen an eine jüdische Gemeinde glauben, die heimlich die Welt regiert, an einen geheimen Plan der LGBTQ+-Community, alle schwul zu machen, und an einen gekreuzigten Jungen Höschen. Unzählige Menschen werden täglich in den sozialen Medien durch sogenannte „Screenshots“ von nicht existierenden Nachrichtenartikeln getäuscht. Und hier müssen Sie nicht einmal erfinden - drücken Sie einfach mehrmals auf die Schaltfläche "Generieren", und das System von Meta erstellt "wissenschaftliche" Bestätigungen für Verschwörungstheorien und völlige Dummheit.
Tristan Green äußerte seine Befürchtungen in Twitter zusammen mit Screenshots von "wissenschaftlichen" Artikeln, woraufhin er einen Dialog mit dem Mann führte, der für die Erschaffung der Galactica verantwortlich ist, nämlich Metas Chief Artificial Intelligence Scientist, Jan LeCun. Und diese Situation störte den Entwickler überhaupt nicht. Wenig später wurde das System jedoch immer noch außer Betrieb genommen, da klar war, dass seine Algorithmen unvollständig waren und die Ergebnisse das Problem der Desinformation im Internet erschweren könnten.
https://twitter.com/mrgreene1977/status/1593646349487992836
Sie können der Ukraine helfen, gegen die russischen Invasoren zu kämpfen. Der beste Weg, dies zu tun, besteht darin, Gelder an die Streitkräfte der Ukraine zu spenden Das Leben retten oder über die offizielle Seite NBU.
Auch interessant:
Das erste, was Twitter-Leute taten, war, jedem künstliche Intelligenz zu empfehlen, um Glasscherben und Rassismus zu begraben