Das US-Unternehmen Anthropic hat nach eigenen Angaben mehrere Fälle missbräuchlicher Nutzung seines KI-Modells unterbunden. Dabei sei es auch um mutmaßliche Cyberspionage aus Russland und biologische Waffen gegangen.
Derzeit tobt die Debatte, ob KI die Menschheit auslöschen kann. Anthropic gibt nun Einblicke, wie sein Dienst Claude schon heute genutzt wird, um konkreten Schaden anzurichten.
Der Spiegel11. Sept.Die KI-Firma Anthropic hat nach eigenen Angaben Anfragen von Forschern an ihre Software Claude gestoppt, die zu möglicher Biowaffenforschung genutzt werden könnten.
Forscher wollten KI offenbar für Projekte nutzen, die auch für die Entwicklung von Biowaffen relevant sein könnten. Der ChatGPT-Konkurrent Anthropic unterband mehrere Zugriffe.
Die Welt11. Sept.
Günstige KI aus China weckt Zweifel an den Marktchancen großer US-Anbieter wie Anthropic. Das Unternehmen berichtet nun von dreisten Tricksereien chinesischer Konkurrenten. Dabei seien sensible Daten aus Russland in die USA gelangt.
manager magazin11. Sept.
Die KI-Firma Anthropic hat Anfragen mit Bezug zur Entwicklung von Biowaffen unterbunden. Außerdem gab es Spionageversuche gegen Regierungsgegner aus dem Iran und China.
Die Zeit•DIE ZEIT: Digital - Julica Jungehülsing, Anna-Lena Schlitt11. Sept.
Im ersten umfangreichen Bericht zu Versuchen, Anthropics KI zu missbrauchen, schlägt die Firma einen weiten Bogen zu ganz unterschiedlichen Themenkomplexen.
Die Schattengeschäfte mit Aktien von OpenAI, Anthropic oder Revolut, eine neue KI-Firma ehemaliger SAP-Manager und der Handle-Deal von Meta. Das und vieles mehr in unserem wöchentlichen Newsletter „Tech Update“.
manager magazin11. Sept.
Akteure, die das Modell Claude zur Entwicklung von Waffen-Software nutzen, und chinesische Technologieriesen, die ihre eigene KI verbessern wollen: Diese illegitime Nutzung hat die Firma Anthropic offenbar entdeckt und gestoppt.
Süddeutsche Zeitung11. Sept.
Günstige KI aus China weckt Zweifel an den Marktchancen großer US-Anbieter wie Anthropic. Das Unternehmen berichtet nun von dreisten Tricksereien chinesischer Konkurrenten. Dabei seien sensible Daten aus Russland in die USA gelangt.
Der Spiegel11. Sept.
Das KI-Unternehmen beschuldigt Rivalen aus der Volksrepublik, Nutzeranfragen zu ihrem System Claude umgeleitet zu haben. So seien dort auch sensible Daten gelandet – unter anderem von Russlands Militär.
Der Tagesspiegel11. Sept.
Jacob Coxon hat beim KI-Unternehmen Anthropic gekündigt und warnt: Die Entwickler rasen auf eine Superintelligenz zu, die die Menschheit auslöschen könnte. Was ist dran an seiner Prognose?
Nachdem Anthropic schon Ende Juli drei Hacking-Angriffe meldete, ist nach Analyse der Daten jetzt noch ein vierter bei Claude Opus 4.6 hinzugekommen.
Wieder hat ein KI-Agent eigenständig einen Hackingangriff gestartet. Der erst Monate später entdeckte Vorfall betrifft Anthropic. Die Sorgen bei Sicherheitsexperten wachsen.
Der Spiegel9. Sept.
KI-Firmen überbieten sich mit immer besseren Modellen. Nun hat ein Entwickler des Unternehmens Anthropic aus Sorge vor den möglichen Folgen gekündigt. Er wirft den Unternehmen vor, unverantwortliche Risiken einzugehen.
Der Spiegel9. Sept.
Nun ist auch dem Facebook-Konzern Meta das passiert, was zuvor schon OpenAI und Anthropic widerfuhr. Ein KI-Modell machte sich selbständig und drang in das System eines fremden Unternehmens ein.
Deutsche Welle6. Aug.