Wir diskutieren über die falsche Gefahr – scobel

Was, wenn nicht die Künstliche Intelligenz unser größtes Problem ist, sondern wir Menschen, die sie bauen? Während die USA und China um die technologische Vorherrschaft bei KI kämpfen, werden die Systeme leistungsfähiger, autonomer und immer schwieriger zu kontrollieren. Gleichzeitig stellt sich eine grundsätzliche philosophische Frage: An welchen menschlichen Werten sollen wir Künstliche Intelligenz eigentlich ausrichten, wenn wir uns selbst nicht an diese Werte halten?

Wir blicken auf die aktuellen Entwicklungen im globalen KI-Wettbewerb: Warum könnten offene KI-Modelle aus China gegenüber geschlossenen Systemen aus den USA einen entscheidenden Vorteil bekommen? Warum gewinnen chinesische Modelle gerade in Afrika an Bedeutung? Was bedeuten Open Source, Open Weights, Alignment und rekursive Selbstverbesserung für die Sicherheit von KI? Und welche Rolle spielen Unternehmen wie OpenAI, Anthropic, Meta, DeepSeek und Moonshot?

Im Zentrum steht schließlich eine unbequeme These des Philosophen und Bewusstseinsforschers Thomas Metzinger: Vielleicht liegt das größte Risiko der Künstlichen Intelligenz nicht allein in der Technologie, sondern in ihrer Verbindung mit menschlichem Machtstreben, Konkurrenz, wirtschaftlichen Interessen und unseren eigenen kognitiven Verzerrungen. Damit wird die Debatte über KI-Sicherheit, KI-Ethik, künstliche Intelligenz, Philosophie, Wissenschaft und digitale Souveränität auch zu einer Debatte darüber, was für eine Gesellschaft wir eigentlich sein wollen.