Trump setzt auf Selbstkontrolle von KI-Firmen
Auch wenn selbst Branchengrößen vor den Gefahren ihrer eigenen Werkzeuge warnen, will US-Präsident Donald Trump Künstliche Intelligenz nicht unter staatliche Aufsicht stellen. Der Staatschef ist überzeugt, dass sich die KI-Unternehmen am besten selbst kontrollieren könnten.
„Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht. Sie werden das nicht zulassen“, brachte Trump am Dienstag nach einem Treffen mit Chefs von KI-Unternehmen in Washington die wirtschaftlichen Interessen der Unternehmen ins Spiel. Diese würden „sich gegenseitig kontrollieren“, betonte Trump. Außerdem betonte der Republikaner, dass die USA den Vorsprung zu China nicht einbüßen dürfe.
Zuletzt hatten eigenständige Hacking-Attacken durch KI-Modelle die Sorgen um Gefahren Künstlicher Intelligenz hochkochen lassen. Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche. Der Chef der KI-Firma Anthropic, Dario Amodei, sprach sich dafür aus, die Entwicklung der leistungsfähigsten KI-Modelle abzubremsen, um sicherzugehen, dass man nicht die Kontrolle über die Technologie verliert. Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial – „aber auch sehr reale Risiken“. Maßnahmen, um diesen Risiken entgegenzuwirken, seien „noch in der Diskussion“.
Selbsverpflichtungen vereinbart
Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von Grundsätzen vereinbart, zu denen „robuste interne Kontrollen“ gehören, wie aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter anderem Biowaffen- und Chemiewaffen-Risiken ausräumen – und auch dafür sorgen, dass es keine Hacking-Attacken gebe.
Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt wurde. Die Verwaltungsräte der KI-Firmen – die in etwa den deutschen Aufsichtsräten entsprechen – sollen zudem gesonderte unabhängige Gremien einrichten, die interne und externe Berichte prüfen.