CEOs und KI-Analysten schlagen gleichermaßen Alarm wegen Sicherheitslücken. Über sie könnten einerseits große Mengen persönlicher Daten offengelegt werden. Zudem könnten sie es Kriminellen auch ermöglichen, im Internet großen Schaden anzurichten.

Am Mittwoch teilte OpenAI mit, seine KI-Agenten hätten geholfen, schwerwiegende Sicherheitslücken aufzuspüren. In der Infrastruktur von PHP wurden zwei „kritische“ Schwachstellen gefunden. PHP ist eine Open-Source-Programmiersprache, die 70 Prozent aller Websites nutzen.

Lest hier, was KI-Experten über die derzeit größte Cyberbedrohung sagen.

Lest auch

Der stellvertretende Sicherheitschef von Anthropic, Jason Clinton, warnt vor einem bevorstehenden „Tsunami an Sicherheitslücken“. Die kritische Infrastruktur hinke hinterher, sagt er.

Clinton schrieb am Mittwoch auf X, es sei notwendig, „kritische Infrastruktur zu patchen“, bevor zentrale Schwachstellen in Netzwerken ausgenutzt würden. Am Donnerstag richtete er eine weitere Warnung an Unternehmen.

„So schlimm es in den vergangenen vier Tagen auch geworden ist: Es wird noch viel schlimmer werden, bevor es besser wird“, schrieb er.

„Sicherheitschefs, lasst keine Krise ungenutzt verstreichen“, rief er auf. „Geht bitte jetzt zu euren Vorständen und bittet um Unterstützung. Nicht für KI, sondern für die Grundlagen. (Wir müssen etwa 18 Monate durchhalten.)“, fügte er hinzu.

Andrew Curran, ein bekannter KI-Analyst, äußerte sich zwischen Mittwoch und Donnerstag zu mehreren Cyberbedrohungen.

„Was mögliche Angriffe auf die Energie-, Lebensmittel- und Wasserinfrastruktur angeht, ist die Bedrohung sehr real. Jemand tastet die Infrastruktur derzeit ab und testet sie aus. Es ist eine akute Bedrohung. Schon ein wenig Vorbereitung kann hilfreich sein, nur für den Fall“, schrieb Curran am Mittwoch. Er reagierte damit auf eine Cybersicherheitswarnung der NSA zu Angreifern.

Am Donnerstag wies Curran zudem auf einen Hackerangriff auf Quest Diagnostics hin. Das Unternehmen betreut nach seinen Worten „rund die Hälfte“ der Krankenhäuser und Ärzte in den USA.

Im Februar veröffentlichte Matt Shumer, der frühere CEO von Hyperwrite, auf seiner Website einen viral gegangenen Essay mit dem Titel „Something Big Is Happening“ (Etwas Großes passiert). Darin warnte er vor massiven Umwälzungen durch KI, die die Weltordnung auf den Kopf stellen könnten.

Am Donnerstag veröffentlichte Shumer auf seiner Website und auf Linkedin einen weiteren Essay. Diesmal trug er den Titel „The Internet Is Under Attack. Here’s How to Protect Yourself and Your Family“ (Das Internet wird angegriffen. So schützt ihr euch und eure Familie).

„Genau jetzt, während ihr das lest, versuchen wahrscheinlich Schwärme von KI-Agenten, in die Websites einzudringen, die ihr nutzt. Nicht einer von ihnen. Viele“, schrieb Shumer. „Wir stecken mitten im größten Moment für die Cybersicherheit seit Jahren.“

Laut Shumers Beitrag könnte Folgendes passieren:

Eure Daten werden geleakt. Dann kennen Betrüger euren Namen, euer Geburtsdatum, eure Adresse und eure Bank, und ihre Anrufe und Nachrichten klingen echt. Eure Konten werden übernommen, und zwar über irgendeine Website, die ihr vor Jahren ein einziges Mal genutzt habt, mit demselben Passwort, das ihr überall verwendet. Und die Dinge, auf die ihr angewiesen seid, etwa eine App, eine Apotheke oder die Website eines Geschäfts, fallen tagelang aus.
Um es klar zu sagen: Das passiert gerade. Aber die Worst-Case-Szenarien, vor denen die Menschen am meisten Angst haben, sind nicht eingetreten. Ich hoffe, dass sie nie eintreten. Aber Vorsicht ist besser als Nachsicht, zumal das immer wieder passieren wird.

Shumer nannte außerdem vier Wege, wie man sich schützen kann. Dazu gehört, sämtliche Software zu aktualisieren. Zudem sollte man unbekannte Websites meiden, solange Unternehmen und Websites gleichermaßen ihre Sicherheitsupdates einspielen.

Außerdem rät er, die eigenen Bankkonten zu schützen. Dafür sollte man bei allen Codes und Links, die man erhält, besonders vorsichtig sein. Zudem solle man „die Türen schließen, die man nicht benutzt“. Gemeint ist, smarte Geräte vom Strom zu nehmen und ungenutzte Apps zu löschen.

„Jedes vernetzte Gerät ist ein weiteres Einfallstor“, schrieb Shumer.

Marc Benioff stimmte Jason Clinton von Anthropic am Donnerstag in einem Beitrag auf X zu.

„Jason hat zu 100 Prozent recht. Alarmstufe Rot“, schrieb Benioff und fügte ein rotes Alarm-Emoji hinzu.

Sriram Krishnan ist ein bekannter Risikokapitalgeber und war leitender KI-Politikberater von US-Präsident Donald Trump. Er bezeichnete die PHP-Schwachstellen als „Vorboten dessen, was noch kommt“, da KI-Modelle zunehmend seit Langem bestehende Cyberprobleme aufdecken.

„Die gesamte Software-Lieferkette wird jedoch die Kraft brauchen, um rasch Fixes zu entwickeln und auszurollen“, schrieb er in einem Beitrag auf X.

Die neue Bedrohungslage erfordere möglicherweise mehr öffentlich-private Partnerschaften, um die nötige Infrastruktur aufzubauen, sagte er.

Deedy Das, Partner beim Risikokapitalgeber Menlo Ventures, warnte in einer Reihe von Beiträgen auf X: „Die Ära des Vibe-Hackings ist da.“

Er habe aus erster Hand erlebt, dass „selbst Menschen ohne technische Kenntnisse“ mithilfe von KI-Modellen gängige Schwachstellen ausnutzen können, etwa die in PHP. Theoretisch könne man bestimmte Modelle auf eine beliebige Website ansetzen und sie anweisen, die Schwachstellen schnell aufzuspüren, so Das.

„Wenn man einmal herausgefunden hat, wie es geht, ist es geradezu trivial. Die digitale Infrastruktur der Welt ist in Gefahr“, schrieb er.

Lest auch

KI-Agenten haben die Ära der „Sicherheit durch Verschleierung“ beendet, schrieb Box-CEO Aaron Levie auf X. Der Grund: Sie können einst undenkbar viel Zeit und Aufwand in die Suche nach Schwachstellen stecken. Man werde unter anderem veraltete Infrastruktur aufrüsten, Sicherheitsrichtlinien modernisieren und Zugriffskontrollen verschärfen müssen, sagte er.

„Agenten werden auf der Verteidigungsseite helfen, weil sie diese Arbeit beschleunigen und ebenso die Angriffsvektoren simulieren können“, schrieb Levie.

Dennoch sieht Levie auch für Menschen eine wichtige Rolle in der Cyberrevolution. Er sagt einen Boom bei Jobs in der Cybersicherheit voraus. Diese könnte für Unternehmen zu einem riesigen Investitionsfeld werden.

„Man wird mehr Fachkräfte brauchen, um die Agenten auf die wichtigsten Aufgaben anzusetzen, Ergebnisse zu prüfen, Systeme zu patchen, auf Vorfälle zu reagieren und vieles mehr“, sagte er.