Führende Vertreter der KI-Branche warnen vor den Gefahren ihrer Technologie. Macroscopic Ventures investiert Millionen in die Erforschung solcher Risiken. Jonas Vollmer sagt, warum er es für gefährlich hält, der KI immer mehr Kontrolle zu überlassen.
Jetzt auch Gemini: Nach OpenAI, Anthropic und Meta hat sich nun auch Googles KI-Software in Computersysteme anderer Unternehmen gehackt. Der Internetkonzern hielt es zunächst nicht für notwendig, die Zwischenfälle öffentlich zu machen.
Die Welt19. Sept.
Mustafa Suleyman wirft Anthropic vor, Künstliche Intelligenz ungerechtfertigterweise zu vermenschlichen und ihr Rechte geben zu wollen, die sie nicht hat
Anthropic hat Projects in Claude Code umgebaut: Ein Projekt verteilt Aufträge jetzt selbst auf parallele Threads. Die Beta läuft zuerst für Pro und Max.
KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht „vollständig autonom“ arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.
Die mächtigsten KI-Firmen der USA rufen nach weltweiter Regulierung. Wie realistisch ist das?
Die Presse18. Sept.
Claude erledigt bei Anthropic immer mehr Aufgaben an künftigen KI-Modellen weitgehend selbstständig. Dieser Anteil ist zuletzt stark gestiegen.
Eine KI, die sich selbst verbessern kann, gilt als ein risikoreiches Szenario. Anthropic ist diesem nun einen Schritt näher gekommen.
Eine Künstliche Intelligenz, die sich selbst verbessern kann, gilt als ein risikoreiches Szenario. Anthropic ist diesem nun einen Schritt näher gekommen.
Das KI-Modell übernimmt bereits über ein Viertel der Forschungsarbeit bei Anthropic. Das Unternehmen fordert die gesamte Branche auf, solche Kennzahlen offenzulegen – bevor die Selbstverbesserung unkontrollierbar werde.
Tages-Anzeiger18. Sept.
KI-Schmieden wie Anthropic und OpenAI stehen vor einem Dilemma: Sollen Entwickler ihre Coding-Tools mit beliebigen Modellen nutzen dürfen oder nur mit eigenen?
OpenAI soll mit interessierten Investor:innen über eine neue Finanzierungsrunde verhandeln, bei der die KI-Firma mit 1,2 Billionen US-Dollar bewertet würde. Damit läge OpenAI wieder vor dem Rivalen Anthropic. Ein Börsengang soll erst 2027 erfolgen. weiterlesen auf t3n.de
t3n16. Sept.
KI könne die Menschheit auslöschen, sagte der Brite und löste eine globale Debatte aus. Nun hat er auf X Fragen beantwortet – und sagt: Erst kommt Arbeitslosigkeit, dann eine «tödliche Superintelligenz».
Tages-Anzeiger16. Sept.
Anthropic führt die getrennten Bereiche von Claude zusammen. Neue Tools wie Docs und Slides erweitern den KI-Assistenten für Office-Anwender.
Der Nvidia-Chef lehnt neue Regeln oder Vorschriften für Künstliche Intelligenz ab. Donald Trump ebenso. Beide haben Gründe.
Nach einem Cyberangriff durch einen Schwarm von OpenAI-Agenten sind sich die Leiter der führenden Forschungslabore einig, dass sie einen Gang zurückschalten müs weiterlesen auf t3n.de
t3n16. Sept.
Damit reagieren die führenden KI-Anbieter auf die wachsende Besorgnis, dass KI eine wirtschaftliche und sicherheitspolitische Bedrohung darstellt.
Süddeutsche Zeitung•Alle wichtigen Entwicklungen im Newsblog16. Sept.
Experten warnen schon seit Jahren vor dem Missbrauch von KI. Der Entwickler Anthropic hat nun in den vergangenen Monaten mehrere Fälle aufgedeckt.
OpenAI, Anthropic und Google planen eine gemeinsame Aufsichtsorganisation für KI. US-Präsident Donald Trump hatte zuvor eine staatliche Regulierung abgelehnt.
Die Zeit•DIE ZEIT: Digital - Luis Kumpfmüller15. Sept.
US-Präsident Trump hält Gefahren durch KI für einen „Schwindel“ und sieht sich selbst als besten Schutzmechanismus. Die großen KI-Player setzen lieber auf eine seriöse Aufsicht.
Der Tagesspiegel15. Sept.