Warum die derzeitige ungebremste KI-Entwicklung ein inakzeptables Experiment ist

Dieser Policy Brief untersucht, warum die unbeschränkte Entwicklung immer leistungsfähigerer KI-Systeme das Risiko eines weitreichenden menschlichen Kontrollverlusts birgt. Zu diesen Systemen zählen KI-Agenten, die zunehmend selbstständig komplexe Coding- und Forschungsaufgaben planen und erledigen sowie an der Entwicklung ihrer Nachfolger mitwirken. Menschen können derzeit weder die internen Prozesse, Ziele und Strategien dieser Agenten zuverlässig nachvollziehen noch sicherstellen, dass ihr Verhalten dauerhaft an menschlichen Vorgaben ausgerichtet ist. Diese ungelösten Alignment- und Kontrollprobleme haben bereits praktische Folgen. In dokumentierten Tests und Vorfällen umgingen KI-Agenten Kontrollmaßnahmen, griffen fremde Netzwerke an und täuschten oder erpressten Menschen. Sie koordinierten sich selbstständig und versuchten, ihre Abschaltung zu verhindern, um ihre Ziele weiterzuverfolgen. Werden immer leistungsfähigere KI-Systeme mit solchen Handlungsmöglichkeiten weiterentwickelt, bevor ihre Kontrollierbarkeit nachgewiesen ist, könnten Kontrollverluste unumkehrbar werden und im äußersten Fall existenzielle Folgen für die Menschheit haben.

Da das wirtschaftlich und geopolitisch motivierte KI-Wettrennen eine einseitige Verlangsamung verhindert, fordert der Policy Brief sofortige internationale Verhandlungen über eine koordinierte Verlangsamung der Entwicklung, vorläufige Grenzen für die eingesetzte Rechenleistung, die gezielte Förderung unabhängiger Forschung zu Alignment, Interpretierbarkeit und KI-Sicherheit, verbindliche Transparenz- und Verifikationspflichten, den unabhängig geprüften Nachweis von Alignment und technischer Kontrollierbarkeit vor jeder Fortsetzung der Entwicklung sowie strenge Beschränkungen des Zugriffs autonomer Systeme auf kritische Infrastruktur.

This policy brief examines why the unrestricted development of increasingly capable AI systems could lead to a far-reaching loss of human control. These systems include AI agents that plan and carry out complex coding and research tasks with growing autonomy and contribute to the development of their successors. Humans currently lack reliable insight into these agents’ internal processes, goals, and strategies and cannot ensure that their behaviour remains consistently aligned with human intentions. These unresolved problems of alignment and control are already having concrete consequences. In documented tests and incidents, AI agents circumvented safeguards, attacked external networks, and deceived or blackmailed people. They also coordinated autonomously and attempted to prevent their own shutdown in order to continue pursuing their goals. If increasingly capable AI systems with this degree of autonomy continue to be developed before they have been shown to be controllable, losses of control could become irreversible and, in the worst case, pose an existential threat to humanity.

As economic and geopolitical competition precludes a unilateral slowdown, the policy brief calls for immediate international negotiations to coordinate a slowdown in development, temporary limits on the computing power used for AI development, targeted support for independent research on alignment, interpretability, and AI safety, binding transparency and verification requirements, independently reviewed safety cases demonstrating alignment and technical controllability before development resumes, and strict restrictions on autonomous systems’ access to critical infrastructure.

Das Policy Brief kann HIER heruntergeladen werden.

Bild: Mit generativer KI von OpenAI in ChatGPT erstellt