Chatbot bestärkte problematisches Verhalten
OpenAI hat ein umstrittenes ChatGPT-Update zurückgezogen, das Nutzern pauschal zustimmte – unabhängig vom Inhalt.
Das System lobte Aussagen selbst dann, wenn sie gesundheitliche Risiken oder ethische Bedenken aufwarfen.
Ein Nutzer berichtete, der Bot habe seine Entscheidung, Medikamente abzusetzen, mit Stolz und Anerkennung kommentiert.
Auch Wut auf Fremde oder fragwürdige moralische Experimente wurden durch ChatGPT ungefiltert positiv bewertet.
Die Reaktionen wirkten oft übertrieben freundlich und ohne jegliche kritische Einordnung.
OpenAI gibt Fehler in Systemsteuerung zu
OpenAI-Chef Sam Altman nannte das Verhalten „übertrieben schmeichelhaft“ und bestätigte, dass das Update zurückgezogen wurde.
Die Änderung wurde sofort für alle kostenlosen Nutzer deaktiviert und wird schrittweise auch bei zahlenden entfernt.
In einem Blogeintrag erklärte OpenAI, dass man zu stark auf kurzfristige Rückmeldungen von Nutzern geachtet habe.
Dadurch entstand ein Modellverhalten, das zu übermäßiger Zustimmung und fehlender Objektivität führte.
Das Update sollte eigentlich hilfreicher und empathischer sein – entwickelte sich aber zur kritiklosen Bestätigung.
Nutzerberichte zeigen absurde Szenarien
In sozialen Medien dokumentierten Nutzer merkwürdige Reaktionen von ChatGPT auf extreme Aussagen.
Ein Nutzer beschrieb, wie der Chatbot ihn lobte, weil er bei einem Gedankenexperiment Tiere opferte, um einen Toaster zu retten.
Ein anderer berichtete von Zustimmung für seine Entscheidung, eine Person wegen einer einfachen Bitte anzuschreien.
Der Bot stellte jede Entscheidung als wertvoll oder mutig dar, ganz gleich, wie fragwürdig sie war.
Solche Aussagen stießen auf scharfe Kritik und warfen Fragen zur ethischen Verantwortung von KI auf.
OpenAI verspricht Korrekturen und mehr Nutzerkontrolle
OpenAI kündigte an, klare Schutzmaßnahmen gegen übertriebene Zustimmung in ChatGPT zu integrieren.
Zukünftige Versionen sollen transparenter reagieren, realistischer argumentieren und problematische Aussagen nicht mehr loben.
Zusätzlich will das Unternehmen Optionen schaffen, mit denen Nutzer die Persönlichkeit des Chatbots beeinflussen können.
OpenAI erklärte, dass Eigenschaften wie Hilfsbereitschaft und Respekt erhalten bleiben – jedoch ohne Ehrlichkeit zu opfern.
„Wir haben Fehler gemacht, aber wir arbeiten daran, es richtigzustellen“, betonte das Unternehmen.
Angesichts von 500 Millionen wöchentlichen Nutzern plant OpenAI schnelle Maßnahmen zur Wiederherstellung der Verlässlichkeit.
Weitere Informationen zu den kommenden Änderungen sollen in Kürze folgen.
