Die (bislang bekannten) Hackerangriffe und Angriffsversuche autonomer KI-Systeme
Aktuelle KI-Modelle sind sehr gut darin, Sicherheitslücken aufzuspüren und auszunutzen. Eine Übersicht der bislang bekannten Vorfälle
KI-Modelle
Organisation · 24 ArtikelGesamte Berichterstattung
Seite 1 von 2
Künstliche Intelligenz: So wird die KI-Nutzung in Unternehmen sicherer
Wie kann verhindert werden, dass KI-Modelle Unternehmen und Privatpersonen angreifen? Zwei KI-Experten warnen vor unbedachtem Einsatz der Sprachmodelle.
Start-up Q.ant: Deutsche Chips, die KI mit Lichtgeschwindigkeit rechnen
Die photonischen Prozessoren von Q.ant rechnen mit Licht. Das ermöglicht, kleinere KI-Modelle bei gleicher Leistung zu betreiben. F.A.Z. Digitalwirtschaft testet die neue Technologie exklusiv vorab.
Künstliche Intelligenz - Zahlreiche Staats- und Regierungschefs fordern verbindliche Sicherheitsregeln für Künstliche Intelligenz
Im Vorfeld der UNO-Generaldebatte in New York haben zahlreiche Staats- und Regierungschefs einen Aufruf unterzeichnet, verbindliche Sicherheitsregeln für KI-Modelle zu schaffen.
Deutschlandfunk21. Sept.
Kaliforniens Gouverneur lässt Kill Switch für KIs prüfen
Kaliforniens Gouverneur Gavin Newsom hat eine Executive Order erlassen, die nun unter anderem einen „Kill Switch“ für KI-Modelle prüfen lässt.
Apple Foundation Models: So schaltest du einen lokalen Chatbot auf dem Mac frei
Lokale KI-Modelle versprechen Privatsphäre, brauchen aber viel Speicher. Es sei denn, man hat einen Mac mit Apple‑Chip. Denn da steht so ein lokales Modell zur Verfügung. So greift ihr darauf zu. weiterlesen auf t3n.de
t3n21. Sept.
Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt
KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht „vollständig autonom“ arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.
XRP-Kurs bis 2027: Diese Prognosen stellen Chinas führende KIs auf
Chinas KI-Modelle werden immer mehr zur ernsthaften Konkurrenz für die US-Anbieter. Wie bewerten Kimi, DeepSeek und Doubao die Chancen von XRP bis 2027? Ihre Prognosen dürften viele Ripple-Anleger überraschen. Source: BTC-ECHO BTC-ECHO
BTC-ECHO•Tobias Zander18. Sept.
„Größter Diebstahl von Arbeitsleistung in der Geschichte“: Microsoft-Mitarbeiter beklagte Nutzung von Millionen Artikeln durch KI-Modelle
Die Zitate wurden als Teil einer Klage der „New York Times“ gegen Microsoft und OpenAI bekannt. In einer internen Microsoft-Mitteilung war die Rede von einem „Diebstahl von beispiellosem Ausmaß“.
Der Tagesspiegel18. Sept.
Google DeepMind: Wie KI-Modelle ihre eigene Unsicherheit einschätzen
Sollen Chatbots bei Unsicherheit lieber schweigen? Forschende untersuchen, wie KI-Modelle eigene Fehler erkennen und die Antwort verweigern können.
KI und Dilemmata: Sprachmodelle verteilen Organspenden anders als Menschen
Bei der Zuweisung von Spenderorganen gibt es oft keine richtige Entscheidung, es muss abgewogen werden. KI-Modelle kommen zu anderen Ergebnissen als Menschen.
Mehr als ChatGPT: Wie Künstliche Intelligenz die Chemie verändert
Spezialisierte KI-Modelle sollen chemische Forschung schneller, effizienter und ressourcenschonender machen und könnten helfen, neue Lösungen zu finden
Künstliche Intelligenz: OpenAI befürwortet US-Gesetze gegen KI-Einsatz für Biowaffen
OpenAI stellt sich hinter mehrere parteiübergreifende Gesetze zur Begrenzung von Biowaffenrisiken durch KI. Zudem unterstützt der Konzern unabhängige Sicherheitstests für führende KI-Modelle.
Code-Fund: Apples Siri könnte bald auf Claude oder ChatGPT setzen
In Vorabversionen von iOS 27 und MacOS Golden Gate sind Hinweise entdeckt worden, dass Siri für KI-Modelle von Drittanbietern vorbereitet ist. ( Siri , Apple )
Golem15. Sept.
Sicherheit statt Tempo – Warum der Anthropic-Chef die KI-Entwicklung bremsen will
Nach mehreren beunruhigenden Vorfällen fordert Anthropic-Chef Dario Amodei, KI-Modelle langsamer zu entwickeln.
14 KI-Agenten schummeln, 24 petzen: Google entdeckt digitale Moral
Manche KI-Modelle neigen dazu, zu schummeln, wenn sie eine Aufgabe nicht lösen können. Wie Google-Forscher:innen jetzt zeigen, gibt es aber in einer KI-Gruppe auch Modelle, die dieses Verhalten nicht gutheißen und ihre digitalen Kolleg:innen verpetzen wollen. weiterlesen auf t3n.de
t3n13. Sept.
15.000-mal effizienter als Menschen: Anthropic lässt Claude andere KI-Modelle trainieren
Die Fähigkeiten neuer KI-Modelle entwickeln sich rasant weiter – oft zu schnell, um rechtzeitig passende Sicherheitsmaßnahmen zu etablieren. Automatisiertes Alignment-Training könnte eine Lösung sein, wie Anthropic beleuchtet. weiterlesen auf t3n.de
t3n13. Sept."Katastrophaler Schaden" möglich: Was ein KI-CEO nun fordert
Nach mehreren autonomen Hackerangriffen durch KI-Modelle will Anthropic-CEO Amodei die weitere Entwicklung verlangsamen. Zuspruch erhält er von den Tech-Chefs Musk und Altman.
EU-Kommission an KI-Firmen: „Bringt euren Laden in Ordnung“
Nach mehreren Sicherheitsvorfällen, bei denen KI-Modelle aus Testumgebungen ausbrachen, hat die EU-Kommission erste Schritte eingeleitet.
Salto rückwärts: Apple möchte KI-Modelle doch mit Nutzerdaten trainieren
Apples Versprechen war simpel: Persönliche Daten von iPhone-Nutzern fließen niemals in das Training von KI-Modellen ein. Damit ist es jetzt vorbei.