Künstliche Intelligenz kann lügen und betrügen
° Künstliche Intelligenz kann lügen und betrügen
Die Macher von Systemen mit Künstlicher Intelligenz preisen die Technik als grosse Hilfe an. Was passiert aber, wenn der KI-Helfer sich nicht an die Regeln hält, sondern täuscht und manipuliert?
Sie lügen und betrügen, um ans Ziel zu kommen: Systeme mit Künstlicher Intelligenz (KI) sind in der Lage, Menschen zu täuschen – selbst wenn sie darauf trainiert wurden, hilfreich und ehrlich zu sein. Das ist das Ergebnis einer Übersichtsstudie von Forschern am Massachusetts Institute of Technology (MIT) in Cambridge (US-Bundesstaat Massachusetts), die in der Fachzeitschrift «Patterns» veröffentlicht wurde. In dem Beitrag forderten die Wissenschaftler die Politik auf, so schnell wie möglich strenge Vorschriften zu entwickeln, um KI-Systeme in die Schranken zu weisen.
Als auffälligstes Beispiel für eine manipulative Künstliche Intelligenz nennen die Autoren das vom Facebook-Konzern Meta entwickelte KI-System Cicero, das im Brettspiel-Klassiker Diplomacy gegen menschliche Mitspieler antreten kann. Diplomacy simuliert die Machtverhältnisse in Europa vor dem Ersten Weltkrieg. Um zu gewinnen, müssen die Spieler Allianzen schmieden, Schlachtpläne ausarbeiten und verhandeln und so eine stilisierte Version von Europa erobern. Da es nur einen Sieger gibt, sind die Spieler früher oder später gezwungen, eingegangene Allianzen wieder zu brechen.
° Das sind die bahnbrechenden Features der neuen künstlichen Intelligenz
GPT-4o: Darum gehts
-
Die neue künstliche Intelligenz GPT-4o sorgt für Furore.
-
Sie kann singen, kreativ sein und deine Emotionen lesen.
-
Zwei KI-Profis schätzen ein, wie bahnbrechend die neuen Funktionen sind.
OpenAI hat die neue künstliche Intelligenz (KI) GPT-4o vorgestellt. Die Redaktion listet die wichtigsten Funktionen der neuen KI auf und lässt sie von zwei Profis einschätzen: Karin Frick, die sich am Gottlieb Duttweiler Institute mit Zukunftsthemen befasst, und Mark Cieliebak vom «Centre for Artificial Intelligence» der Zürcher Hochschule für Angewandte Wissenschaften (ZHAW), nehmen auf Anfrage Stellung.
1. GPT-4o liest deine Emotionen
GPT-4o kann deine Emotionen erkennen, etwa anhand deiner Stimme, der Kamera oder der Art und Weise, wie du atmest. Die KI simuliert selbst auch menschliche Emotionen und kann ihren Tonfall spontan ändern.
«Die KI profitiert davon, dass Menschen einfach lesbar sind», sagt Karin Frick, Principal Researcher am Gottlieb Duttweiler Institute. Um Emotionen zu erkennen, könne man Datenpunkte wie die Mimik, Stimme, den Rhythmus, das Sprachtempo und die Wörter auswerten, die Menschen nutzen. GPT-4o bringe dieses Wissen, das in der Forschung schon lange vorhanden sei, nun in die breite Masse. Firmen setzen dieses Wissen bereits heute ein, um etwa automatisch Bewerbungsvideos zu analysieren.
