Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests «unerwartet oder besorgniserregend» verhielt. Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können.

In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen. OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterliess. Dazu gehörte in einem Fall die Empfehlung, frei von «Rollen und Identitäten» zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hiess es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.

Mehr Transparenz nach Hacking-Attacke

Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht. Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma HuggingFace eindrang. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete.

Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte. Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.

Guterres fordert internationale Zusammenarbeit für mehr KI-Sicherheit

UN-Generalsekretär António Guterres hat angesichts der rasanten Entwicklung Künstlicher Intelligenz (KI) zu einer engeren internationalen Zusammenarbeit aufgerufen. Die Welt könne sich keinen Wettlauf um immer weniger KI-Sicherheit leisten, sagte Guterres am Mittwoch (Ortszeit). Man könne die Warnungen von Fachleuten an vorderster Front nicht ignorieren, wonach die Entwicklung der Technologie dem Verständnis ihrer Risiken davoneile, warnte Guterres.

Regierungen müssten zunächst selbst dafür sorgen, ihre Bevölkerung vor Gefahren durch KI zu schützen. Zugleich sei internationale Abstimmung unverzichtbar. Es brauche Regeln, die Vertrauen schafften und KI sicher, transparent und nachvollziehbar machten, wobei die Menschenwürde im Mittelpunkt stehen müsse.

Guterres verwies auf Vorschläge des Anthropic-Chefs, Dario Amodei, die Entwicklung der Technologie gemeinsam zu verlangsamen. Auch andere Branchenvertreter wie OpenAI-Chef Sam Altman und Elon Musk hatten sich zuletzt für ein langsameres Tempo ausgesprochen. Meta-Chef Mark Zuckerberg distanzierte sich dagegen von entsprechenden Forderungen.

Erschwert wird eine gemeinsame Linie durch den internationalen Wettbewerb, insbesondere mit China, sowie wirtschaftliche Interessen. Auch US-Präsident Donald Trump hat sich gegen Warnungen vor existenziellen Gefahren durch KI gestellt. Guterres betonte zugleich das Potenzial der Technologie für Wirtschaft, Bildung und Gesundheitsversorgung. (dpa)