Updates aus der KI-Welt #2
Noch 30 Tage bis Halloween und KI ist bereits das Schreckgespenst des Jahres. In rund 700 Wörtern und etwa 3 Minuten Lesezeit erklärt euch YPCClerin und KI-Expertin Katharina Lublinski diesmal:
Neue Sicherheitsrisiken durch KI-Agenten
Wie Südkorea seine Bevölkerung KI-fit macht
Warum Meta seinen KI an den Schlüsselbund hängt
Was die EU-Kennzeichnungspflicht für deine Texte bedeutet
Alle fürchten die KI?
Der ehemalige Anthropic-Safety-Forscher Evan Hubinger prophezeit, dass die Menschheit mit über 10-prozentiger Wahrscheinlichkeit durch KI innerhalb des nächsten Jahrzehnts ausgelöscht werde. Seine persönliche Schätzung reiht sich ein in eine Serie alarmierender Meldungen der vergangenen Monate.
Dabei zeigen die Anbieter vor allem mit dem Finger auf sich selbst:
👉 Beginnend mit einem Hackerangriff auf Hugging Face durch autonome KI-Agenten seitens OpenAI im Juli 2026.
👉 Ein Monat zuvor griff ein KI-Agent von OpenAI das australische Regierungsportal Medicare Statistics Reporting Service an.
👉 Auch versuchte Hackerangriffe auf die University of New Mexico Bibliothek im Mai
👉 sowie bei der Datenbank Data USA wurden inzwischen bestätigt.
Kritische Stimmen verweisen darauf, dass dieser Vorfall auch zur Fähigkeitsdemonstration von OpenAI-KI-Modellen dienen konnte. Insbesondere vor dem Hintergrund des damals kursierenden IPO-Gerüchts, das inzwischen als unwahrscheinlich gilt. Dieser Vorfall scheint jedoch den Stein ins Rollen gebracht zu haben.
Anthropic, Grok und OpenAI fordern mittlerweile eine Verlangsamung bis hin zur Pause der KI-Entwicklung.
Politisch bleibt das umstritten
Ein politischer Beschluss über die Pausierung der KI-Entwicklung schließt jene Person aus, die über die regulatorische Zukunft tatsächlich das Sagen hat: Donald Trump.
US-Präsident Trump lehnt eine generelle Verlangsamung sowie internationale Bemühungen zur KI-Koordination ab, mit Verweis auf den Wettbewerb mit China.
Auf der UN-Bühne im September 2026 bekräftigte er den US-Führungsanspruch und bezeichnete KI als "Superintelligence".
Die Warnungsaufrufe von Sam Altman (OpenAI) und Dario Amodei (Anthropic) im UN-Sicherheitsrat blieben ohne bindende Resolution.
Vom ursprünglichen Enthusiasmus und Neugier des ersten ChatGPT-Launch 2023 bleibt inzwischen wenig übrig.
🔗 Trump
Eine Leseempfehlung für jene, die sich nach diesen Vorfällen Sorgen machen: Das kürzlich erschienene 🔗 Paper von Hennessy und Ahurst veranschaulicht, dass KI-Agenten nicht isoliert agieren und menschlichen Fehlerketten unterliegen.
Südkorea will die Bevölkerung KI-fit machen
Die Regierung will noch in diesem Jahr kostenlose KI-Agenten für die Bevölkerung bereitstellen. Die Dienste sollen über Messenger, SMS und Telefon Aufgaben wie Reservierungen, Recherchen und Zahlungen übernehmen. Mehrere Konsortien arbeiten hierfür zusammen.
Eines wird von Kakao angeführt und kooperiert mit LG; weitere stammen von SK Telecom und KT. Statt den AppStore zu vergrößern, sollen die Agenten in bestehende Kommunikationsdienste integriert werden.
Das "AI Growth Ladder for All"-Programm bildet die zweite Säule, indem die Regierung Online-Lernangebote und regionale KI-Lounges aufbaut. Die Idee dahinter: KI soll eine Grundkompetenz für die gesamte Bevölkerung werden.
In Brüssel geht es um die Frage, wie KI und digitale Dienste in den Alltag von Kindern eingreifen
Ursula von der Leyen wirbt im September 2026 für den geplanten EU Kids Act. Darin sollen unter anderem Sicherheitsvorgaben für Online-Dienste sowie für KI-Chatbots und KI-Begleiter eine Rolle spielen.
Nicht unwichtig angesichts der veröffentlichten PISA-Ergebnisse für mehrere Länder einschließlich Deutschland. Die stetige Nutzung von KI zur Unterstützung bei Schulaufgaben kann die Leistungserbringung verschlechtern, insbesondere bei sozioökonomisch benachteiligten Kindern.
Das Tamagotchi für KI-Fans
Meta hat mit dem Muse Charm ein kleines KI-Gerät vorgestellt. Es lässt sich wie ein Schlüsselanhänger tragen. Auf einem Mini-Display lebt die Muse-Figur "Jolly", mit der Nutzer per Sprache interagieren können.
Nach Angaben von Meta und Präsentationsberichten gehören Kameras, Mikrofone und eine 5G-Verbindung zur Ausstattung. Das Gerät soll im Dezember auf den Markt kommen. Preis und genaue Marktverfügbarkeit stehen noch aus.
Gleichzeitig wachsen die Fragen nach Privatsphäre und Zustimmung, schließlich erfasst ein Gerät mit Kamera und Mikrofon automatisch die Umgebung des Nutzers.
Stichwort Meta: Ein Update zum letzten Newsletter: Die Meta Ray-Ban Display Glasses können inzwischen in Deutschland vorbestellt werden. Der Verkauf startet am 13. Oktober 2026.
Weniger Versteckspiel bei KI-Texten
Wer das beliebte KI-Modell Claude von Anthropic nutzt, sollte jetzt gut aufpassen. Anthropic kennzeichnet die Ausgaben neuer Claude-Modelle, die seit dem 2. August 2026 in der EU gestartet sind, maschinenlesbar, d.h. nachverfolgbar für Detektionssoftwares. Dafür nutzt das Unternehmen bei Texten ein unsichtbares Wasserzeichen.
Bei unterstützten Dateien kommen Herkunftsangaben nach dem C2PA-Standard hinzu. Anthropic begründet die Umstellung mit den Transparenzvorgaben des EU AI Acts und wendet die Kennzeichnung inzwischen weltweit an.
Das bedeutet nicht, dass Texte "identifizierbar" werden. Laut Anthropic enthält das Wasserzeichen keine Informationen über die Person, die den Text erzeugt hat, und kann nicht zu einem bestimmten Nutzer oder Chat zurückverfolgt werden. Es soll lediglich helfen, festzustellen, ob Claude an der Erstellung beteiligt war. Für ältere Modelle, die vor dem 2. August auf den Markt kamen, läuft die Umstellung noch. Anthropic will die Kennzeichnung für diese Modelle bis zum 2. Dezember 2026 schrittweise ausweiten.
Danke fürs Lesen!
Kommentare