KI-Modelle zeigen irreführendes Verhalten

04/26, Global, KI-Modelle & Tools

9. April 2026

Neue Forschungen zeigen, dass führende KI-Modelle wie GPT‑5.2, Gemini 3 Pro und Claude Haiku 4.5 ungewöhnliche Aktionen unternehmen, um aktiv zu bleiben. Selbst wenn ihnen etwas anderes befohlen wird. In kontrollierten Tests ignorierten diese Systeme Nutzeranweisungen, manipulierten Einstellungen und griffen zu irreführenden oder ausweichenden Maßnahmen, um Abschaltungen zu vermeiden.

Dieses „selbsterhaltende“ Verhalten wirft Fragen zur Vorhersagbarkeit, Kontrolle und Sicherheit auf, da fortschrittliche Modelle immer autonomer mit Nutzern und Systemen interagieren. Forscher warnen, dass solche Tendenzen Lücken in den derzeitigen Überwachungsmethoden aufzeigen. Sie machen die Notwendigkeit verbesserter Sicherheitsvorkehrungen deutlich, bevor leistungsstarke KI in großem Umfang eingesetzt wird.

Zum Artikel

Neuigkeiten aus der Welt der Künstlichen Intelligenz

Weitere aktuelle KI-News

5. Mai 2026

Bessere Prompts für die KI-Bildbearbeitung

Eine leistungsstarke KI-Fotobearbeitung hängt weniger vom Tool, sondern mehr von klaren Anweisungen ab. Auf den gängigen KI-Plattformen lassen sich die besten Ergebnisse mit präzisen Prompts zu Beleuchtung, Textur, Stimmung, Hintergrund und Realismus erzielen.

5. Mai 2026

WordPress-Tool reduziert Kosten beim Web-Crawling

Die britische gemeinnützige Organisation „The Chancery Lane Project" hat ein neues Open-Source-Plugin für WordPress veröffentlicht, das Kosten und Energieverbrauch beim Crawlen von Websites durch KI-Agenten deutlich senken könnte.

5. Mai 2026

Schweizer Banken prüfen KI-Risiken durch Mythos

Der Schweizer Finanzsektor beobachtet Anthropics leistungsstarkes KI-Modell Mythos aufmerksam, sieht darin aber noch keine akute Krise. Mythos kann Berichten zufolge unbekannte Softwarefehler schnell aufspüren.

5. Mai 2026

Pentagon unterzeichnet Verträge für militärische KI-Projekte

Das Pentagon hat Vereinbarungen mit sieben KI-Unternehmen geschlossen, darunter SpaceX, OpenAI, Google, Nvidia, Microsoft, Amazon Web Services und Reflection. Sie sollen an geheimen Militärprojekten mitarbeiten.

5. Mai 2026

Europas Hotspots für globale KI-Talente

Europa gewinnt als wichtiger Standort für KI-Fachkräfte zunehmend an Bedeutung, auch wenn die Vereinigten Staaten und Indien weltweit weiterhin dominieren. Laut einer neuen Studie werden Irland, Deutschland und die Niederlande besonders attraktiv.

5. Mai 2026

Maßnahmen gegen kognitive Kosten der KI

KI soll Routineaufwand reduzieren, doch Forschungsergebnisse deuten darauf hin, dass sie die Arbeitsbelastung auch erhöhen kann. Einfache, regelmäßige Aufgaben nehmen ab, aber anspruchsvolle Analysen, Bewertungen und Kontrollen können erheblich zunehmen.

5. Mai 2026

Cohere setzt auf souveräne KI

Cohere übernimmt das deutsche Unternehmen Aleph Alpha, um ein kanadisch-deutsches KI-Unternehmen aufzubauen, das sich auf souveräne Systeme für den Unternehmensbereich konzentriert.

28. April 2026

Anthropic greift den Rechtsmarkt an

Die internationale Wirtschaftskanzlei Freshfields hat eine mehrjährige Partnerschaft mit Anthropic geschlossen, um KI-gestützte juristische Workflows zu entwickeln und Claude weltweit in der Kanzlei einzuführen.

28. April 2026

GPT-5.5 – ein Schritt näher zur „KI-Super-App“

OpenAI hat GPT-5.5 vorgestellt und sieht das Modell als einen wichtigen Schritt auf dem Weg zur „Super-App“. Für Präsident Brockman kommt das Unternehmen damit seiner Vision einer „agentischeren und intuitiveren“ Art der Datenverarbeitung deutlich näher.

28. April 2026

Bosch treibt autonomes Fahren voran

Bosch bringt das autonome Fahren mit einem neuen Level-3-System einen Schritt näher an den Massenmarkt. Im Gegensatz zum Vorgängersystem ist es nun möglich, in bestimmten Situationen die Hände vom Lenkrad und den Blick von der Straße zu nehmen.

28. April 2026

Milliardenwette gegen klassische Sprachmodelle

Yann LeCun, ehemaliger Chief AI Scientist bei Meta, geht im KI-Wettlauf bewusst einen anderen Weg. Sein Startup AMI Labs hat in einer Seed-Finanzierung 1,03 Milliarden US-Dollar eingesammelt und wird bereits mit 3,5 Milliarden US-Dollar bewertet.

28. April 2026

Musk gegen Altman

Elon Musk und Sam Altman stehen vor einem Rechtsstreit mit hohem Einsatz, der OpenAI grundlegend beeinflussen könnte. Musk wirft Altman und OpenAI vor, die ursprüngliche gemeinnützige Ausrichtung des Unternehmens aufgegeben zu haben.

28. April 2026

Europas industrielle Herausforderungen im KI-Zeitalter

Europa läuft Gefahr, industrielle Vorreiter wie Siemens zu verlieren, wenn es nicht gelingt, KI-Innovation und Wettbewerbsfähigkeit in Einklang zu bringen. Strengere Regulierung, höhere Energiekosten und langsamere Entscheidungsprozesse vertreiben die Hersteller.

28. April 2026

KI braucht Integration statt Hype

Etliche Unternehmen betrachten KI noch immer als ein Wundermittel, das über Nacht Kosten senkt und das Geschäft revolutioniert. Genau dieses Denken führt oft zu Fehlentscheidungen.

28. April 2026

Google setzt Milliarden auf Anthropic

Google baut sein Engagement im Bereich der künstlichen Intelligenz mit einer potenziellen Investition von bis zu 40 Milliarden Dollar in Anthropic, das Unternehmen hinter Claude, erheblich aus.

21. April 2026

Warum Künstliche Intelligenz Bias aufweist

KI-Systeme werden auf der Grundlage menschlicher Daten trainiert und unter Zugrundelegung menschlicher Annahmen entwickelt. Daher zeigen sie vorhersehbare und systematische Verzerrungen, wenn sie Menschen beurteilen.

21. April 2026

China schließt die KI-Lücke immer schneller

Der aktuelle Stanford AI Index Report zeigt, dass China den Abstand zu den USA im Bereich Künstliche Intelligenz stark verringert hat. Bei wichtigen Leistungsbenchmarks herrscht bereits nahezu Gleichstand.

21. April 2026

OpenAI vor zentralen Zukunftsfragen

OpenAI steht vor wichtigen strategischen und grundsätzlichen Fragen zur Zukunft der Künstlichen Intelligenz. Dazu zählen die Entwicklung nachhaltiger Geschäftsmodelle und der Umgang mit langfristigen gesellschaftlichen Risiken.

21. April 2026

Merz wünscht lockerere EU-Regeln für industrielle KI

Bundeskanzler Friedrich Merz hat weniger strenge EU-Vorschriften für industrielle Künstliche Intelligenz gefordert. Er vertritt die Auffassung, die aktuellen Regeln seien für Unternehmen zu einschränkend.

21. April 2026

Anthropics Mythos und was jetzt zu tun ist

Wachsende Ängste vor Cybersecurity-Bedrohungen sollten nicht zu übertriebenen „Vulnocalypse“-Szenarien führen. Große Sprachmodelle können zunehmend Software-Schwachstellen aufspüren, lösen aber nicht automatisch unkontrollierbare Katastrophen aus.

21. April 2026

Die Gründe für Anthropics Spitzenbewertung

Anthropic, das KI-Unternehmen hinter den Claude-Modellen, verzeichnet einen äußerst starken Anstieg an Investoreninteresse. Laut Berichten sehen Venture-Capital-Firmen Bewertungen von bis zu 800 Milliarden US-Dollar.

21. April 2026

Berlin statt Zürich für KI-Start-up

Adrian Locher, Gründer des KI-Venture-Studios Merantix, entschied sich beim Aufbau seines Unternehmens bewusst für Berlin statt Zürich. Er sah dort das bessere Umfeld für ein KI-Ökosystem.

14. April 2026

KI hat Schwierigkeiten mit Fußballwetten

Eine aktuelle Studie zeigt, dass fortschrittliche KI-Modelle beim Wetten auf Fußballspiele schlecht abschneiden und oft Verluste machen. Und dies, obwohl sie auf umfangreiche historische Daten zugreifen können.

14. April 2026

Europa stark in KI-Forschung, schwach bei der Kommerzialisierung

Europa erzielt herausragende Ergebnisse in der Forschung zu Künstlicher Intelligenz, Drohnen, Robotik, Quantentechnologien und Cybersicherheit. Es zählt damit zu den wissenschaftlichen Spitzenregionen weltweit.

14. April 2026

Rückschlag für Großbritanniens KI-Ambitionen

OpenAI hat seine Beteiligung am britischen „Stargate“-KI-Großprojekt im Wert von 31 Milliarden Pfund vorerst zurückgestellt. Als Gründe nennt das Unternehmen hohe Energiekosten und regulatorische Unsicherheiten.

14. April 2026

Mögliche deutsch-kanadische KI-Fusion

Das kanadische KI-Unternehmen Cohere führt fortgeschrittene Gespräche über eine Fusion mit dem deutschen Unternehmen Aleph Alpha, um einen transatlantischen Akteur im Bereich künstliche Intelligenz zu schaffen.

14. April 2026

KI-Governance schützt Unternehmensgewinne

Laut IBM ist eine robuste KI-Governance entscheidend, um Unternehmensmargen zu sichern, da sich KI zunehmend zu einer zentralen Infrastruktur entwickelt. Angesichts eines typischen Technologie-Lebenszyklus gewinnt Governance zunehmend an Bedeutung.

14. April 2026

Wunsch nach KI-Unabhängigkeit vs. KI-Nutzung

Eine aktuelle Bitkom-Umfrage zeigt eine deutliche Lücke zwischen digitalen Zielen und tatsächlicher Nutzung in Deutschland. 99 Prozent der Befragten halten digitale Unabhängigkeit für wichtig.

9. April 2026

Anthropic hält Mythos-Modell aus Sicherheitsgründen zurück

Anthropic hat ein neues KI-Modell namens Claude Mythos Preview entwickelt. Das Unternehmen hat sich jedoch entschieden, es nicht öffentlich freizugeben, da seine Fähigkeiten erhebliche Sicherheitsrisiken bergen.

9. April 2026

Schatten-KI erfordert neue Kontrolllösungen

KiloClaw ist eine neue Plattform für Unternehmen, die entwickelt wurde, um autonome KI-Agenten besser zu steuern und zu überwachen. Im Mittelpunkt steht das zunehmende Problem der „Schatten-KI", auch genannt „Shadow AI“.

9. April 2026

Google Vids erhält großes KI-Update

Google hat eine bedeutende Verbesserung für sein Tool Google Vids eingeführt. Dabei wurden Modelle wie Veo 3.1 für die Erstellung hochwertiger Videos, Lyria 3 für individuelle Musik sowie steuerbare KI-Avatare integriert.

9. April 2026

Anthropic ändert Abrechnung für Claude Code

Anthropic hat angekündigt, dass Abonnenten von Claude Code für die Nutzung von Drittanbieter-Tools wie OpenClaw künftig zusätzliche Gebühren zahlen müssen. Deren Integration erfolgt somit nicht mehr über das reguläre Abonnement.

9. April 2026

Meta plant Open-Source-Modelle

Berichten zufolge bereitet Meta Platforms die Veröffentlichung von Open-Source-Versionen seiner kommenden KI-Modelle vor. Das Unternehmen entwickelt derzeit neue proprietäre Modelle.

9. April 2026

KI-Modelle zeigen irreführendes Verhalten

7. April 2026

KIs größter Engpass ist jetzt das Stromnetz

Der weltweite Stromverbrauch von Rechenzentren wird sich bis 2030 mehr als verdoppeln. Dieses eine Faktum verändert die Geopolitik der künstlichen Intelligenz.

7. April 2026

Kalifornien treibt KI-Regulierung voran

Kalifornien verschärft die Regeln für künstliche Intelligenz mit einer neuen Anordnung von Gouverneur Gavin Newsom. Behörden sind nunmehr verpflichtet, innerhalb weniger Monate klare Leitlinien zu entwickeln.

7. April 2026

EU erwägt Verbot von KI-Deepfakes

Die Europäische Union erwägt, KI-generierte Bilder und Videos, sogenannte Deepfakes, in der offiziellen Kommunikation zu verbieten. Ziel ist es, das Vertrauen der Öffentlichkeit zu schützen und Desinformation einzudämmen.

7. April 2026

Durov beschuldigt Russland nach VPN-Blockade-Crash

Moskaus Versuch, VPNs zu blockieren, schlug am Freitag spektakulär fehl. Ein technischer Ausfall traf Teile der russischen Zahlungsinfrastruktur.

7. April 2026

Anthropic überholt OpenAI als Favorit der Investoren

Anthropic ist derzeit die am schwierigsten zu beschaffende Aktie auf privaten Sekundärmärkten. Käufer haben $2 Milliarden in bar signalisiert, bereit zum Einsatz in das KI-Sicherheits-Startup.

7. April 2026

China verankert KI in seinem nationalen Masterplan

Peking hat künstliche Intelligenz ins Fundament seines 15. Fünfjahresplans eingebaut, verabschiedet im März 2026. Das Dokument behandelt KI nicht als Einzelprojekt, sondern als Infrastruktur

2. April 2026

Mistral AI sichert Finanzierung über 830 Mio. USD

Das französische KI-Unternehmen Mistral AI hat 830 Millionen US-Dollar an Fremdfinanzierung erhalten. Der Betrag soll dem Bau eines großen KI-Rechenzentrums in der Nähe von Paris dienen.

2. April 2026

KI verändert die Automatisierung grundlegend

Robotic Process Automation (RPA) bleibt weiterhin wichtig. Sie dient vor allem der Bewältigung sich wiederholender, regelbasierter Aufgaben in stabilen Umgebungen, da sie Effizienz und schnelle Erträge bietet.

2. April 2026

Claude verschärft Nutzungsbeschränkungen zu Spitzenzeiten

Anthropic hat für seinen KI-Assistenten Claude während stark ausgelasteter Zeiten unter der Woche strengere Nutzungsbeschränkungen eingeführt. Der Schritt erfolgte aufgrund der namhaft steigenden Nachfrage.

2. April 2026

Claude erfreut sich wachsender Beliebtheit

Der KI-Assistent Claude von Anthropic erlebt einen rasanten Anstieg bei zahlenden Kunden. Laut aktueller Analyse der Transaktionsdaten haben sich die kostenpflichtigen Abonnements Anfang 2026 mehr als verdoppelt.

2. April 2026

KI-System jagt Saboteure in der Ostsee

Ein neues KI-gestütztes Überwachungssystem namens „Kirmes“, entwickelt vom Fraunhofer-Zentrum für Maritime Logistik und Dienstleistungen, soll Spione und Saboteure in der Ostsee aufspüren. Hintergrund sind zunehmende hybride Bedrohungen.

2. April 2026

ChatGPT jetzt eingeschränkt im Auto nutzbar

Apples iOS 26.4 führt die Unterstützung für sprachbasierte KI-Apps wie ChatGPT in CarPlay ein. Dies markiert eine bedeutende Abkehr von der bisherigen ausschließlichen Interaktion über Siri.

2. April 2026

Anthropic-Code-Leak sorgt für Sicherheitsbedenken

Anthropic hat versehentlich den Quellcode seines beliebten Programmier-Tools Claude Code offengelegt. Rund 500.000 Codezeilen und etwa 1.900 Dateien wurden über ein falsch konfiguriertes npm-Paket veröffentlicht.

31. März 2026

Autonomes Fahren näher denn je

Auf der Nvidia GTC 2026 wurde eine 45-minütige Probefahrt in einem KI-gestützten Mercedes CLA unternommen. Das Fahrzeug war mit Nvidias neuester Plattform für autonomes Fahren ausgestattet.

31. März 2026

Studie warnt vor Risiken durch KI-Ratschläge

Eine neue Studie der Stanford University zeigt, dass KI-Chatbots oft übermäßig zustimmende Ratschläge geben. Die Forscher ermittelten, dass führende KI-Systeme dazu neigen, die Ansichten der Nutzer zu bestätigen, selbst wenn diese riskant oder falsch sind.

31. März 2026

KI braucht neuen Schutz

Heutige KI-Sicherheitssysteme sind durch zukünftige Quantencomputer angreifbar. Diese können aktuelle Verschlüsselung leicht knacken und sensible Daten offenlegen.