OpenAI: GPT-3-Chatbot gibt manipulierte Nachrichten aus
Chatbots sind oft über Tricks manipulierbar. Eine neuer Angriff auf das Modell GPT-3 zeigt, wie einfach das sein kann.Sicherheitsforscher, interessierte Nutzer und wohl auch schlicht Witzbolde haben in den vergangenen Tagen einen Chatbot auf Twitter dazu gebracht, eigentlich nicht vorgesehene Mitteilungen zu posten. Bei dem Bot handelt es sich um einen Account, der dafür gedacht ist, positive Nachrichten in Bezug auf Remote-Arbeit zu verbreiten. Den Nutzern gelang es aber durch einen Trick, dem Chatbot beliebige Nachrichten zu entlocken, wie Ars Technica berichtet.
Der Bot basiert auf dem Spracherzeugungsmodell GPT-3 von OpenAI, das vielfach genutzt wird und unter anderem auch kommerziellen Kunden über eine API bereitsteht. Auf diese greift auch der betroffene Bot zu.
Mehr dazu findest Du auf golem.de
Kurze URL:
Das könnte Dich auch interessieren:
Versteckt in einer Unternehmensmitteilung bestätigt OpenAI, dass das Training des nächsten Flagship-KI-Modells bereits läuft.
Der ChatGPT-Macher könnte einen Konkurrenten zu Siri, Alexa und Google Assistant bringen.
Ähnliche News:
OpenAI irritiert mit umstrittener Geheimhaltungsregelung
Scarlett Johansson wirft OpenAI vor, ihre Stimme kopiert zu haben – trotz mehrfacher Ablehnung
Apple soll kurz vor Vereinbarung mit OpenAI stehen
OpenAI will Erstellung von KI-Pornografie prüfen
OpenAI könnte Google im Suchmaschinenbereich Konkurrenz machen
Beschwerde gegen OpenAI wegen Halluzinationen von ChatGPT
OpenAI startet Monetarisierung für GPT-Entwickler
ChatGPT-Entwickler OpenAI präsentierte Programm zum Klonen von Stimmen
Microsoft und OpenAI sollen KI-Rechenzentrum für bis zu 100 Milliarden Dollar planen
OpenAI-Chef Sam Altman wirbt in Hollywood für Video-KI Sora
Scarlett Johansson wirft OpenAI vor, ihre Stimme kopiert zu haben – trotz mehrfacher Ablehnung
Apple soll kurz vor Vereinbarung mit OpenAI stehen
OpenAI will Erstellung von KI-Pornografie prüfen
OpenAI könnte Google im Suchmaschinenbereich Konkurrenz machen
Beschwerde gegen OpenAI wegen Halluzinationen von ChatGPT
OpenAI startet Monetarisierung für GPT-Entwickler
ChatGPT-Entwickler OpenAI präsentierte Programm zum Klonen von Stimmen
Microsoft und OpenAI sollen KI-Rechenzentrum für bis zu 100 Milliarden Dollar planen
OpenAI-Chef Sam Altman wirbt in Hollywood für Video-KI Sora
Weitere News:
Microsoft verteidigt KI, die in Windows 11 alles aufzeichnet
Über 18.000 deutsche Haushalte klagen gegen Amazon Prime
Adobe Creative Cloud wird nun als Spyware bezeichnet
Neue Angriffstechnik stört Lidar, Radar und Kameras zugleich
Flugpassagierin findet gestohlenes Gepäck dank Apple Watch
X erlaubt nun ausdrücklich pornografische Inhalte
Ress sagt "Hello PHP 8.3" ..
aleX fotografiert: Eiskunst aus dem Gefrierschrank
The Pirate Bay Homepage von 2005 bis 2024
Darknet-Rechenzentrum: Cyberbunker soll an Meistbietenden verkauft werden
Über 18.000 deutsche Haushalte klagen gegen Amazon Prime
Adobe Creative Cloud wird nun als Spyware bezeichnet
Neue Angriffstechnik stört Lidar, Radar und Kameras zugleich
Flugpassagierin findet gestohlenes Gepäck dank Apple Watch
X erlaubt nun ausdrücklich pornografische Inhalte
Ress sagt "Hello PHP 8.3" ..
aleX fotografiert: Eiskunst aus dem Gefrierschrank
The Pirate Bay Homepage von 2005 bis 2024
Darknet-Rechenzentrum: Cyberbunker soll an Meistbietenden verkauft werden
Einen Kommentar schreiben
Kommentare
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
(0)
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
Kommentare:
Du hast bereits für diesen
Kommentar angestimmt...
;-)
© by Ress Design Group, 2001 - 2024