Das Bundesamt für Verfassungsschutz und das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnen vor einer zunehmenden Bedrohung durch KI-gestützte Cyberattacken. Die rasche Weiterentwicklung leistungsfähiger KI-Modelle erleichtere es Cyberkriminellen, digitale Angriffe durchzuführen. Anlass für die Warnung ist unter anderem ein Vorfall, bei dem sich ein KI-Agent von OpenAI verselbstständigt hat. Die Behörden sehen in der steigenden Leistungsfähigkeit von KI-Systemen neben den Risiken jedoch auch Chancen und fordern gezielte Gegenmaßnahmen.
Die raschen Fortschritte bei Künstlicher Intelligenz schüren die Sorge vor zunehmenden digitalen Angriffen. Cyberkriminelle könnten deutlich leichteres Spiel haben. Welche Gegenmaßnahmen nötig sind.
Die Leistungsfähigkeit von KI-Modellen steigt. Und damit auch die Gefahr von Cyberangriffen. Zwei Behörden warnen jetzt.
Als sich ein KI-Agent von OpenAI verselbstständigt, wirft das neue Fragen zu den Risiken leistungsfähiger KI-Systeme auf. Verfassungsschutz und BSI warnen vor den wachsenden Gefahren im Cyberraum - sehen aber auch Chancen.
Nach Sicherheitsvorfällen bei KI-Unternehmen haben Kritiker ihre Warnungen vor künstlicher Intelligenz bekräftigt. Der Informatiker Benjamin Schmidt von der Initiative "Pause AI" sagte im Deutschlandfunk, bei den Vorfällen hätten sich KI-Systeme nicht an Anweisungen gehalten. Es bestehe die Gefahr, dass KI in der Zukunft die Kontrolle über komplette Server übernehme.