Jüngst warnten amerikanische KI-Schmieden, ihre Produkte könnten bald die Menschheit auslöschen. Doch eine andere Gefahr ist längst real, und sie wächst. Je mehr KI in alle Lebensbereiche vordringt, desto weniger entscheiden Menschen selbst. Das kann am Ende die Demokratie korrumpieren.

„Hey Alexa, mach uns bitte eine romantische Stimmung“. Ein Satz, wie er harmloser kaum sein könnte. Oder? In seiner neuen Produktgeneration Alexa+ hat Amazon nun einen mit KI verbesserten Sprachassistenten integriert, mit dem man viel natürlicher kommunizieren kann und der seinen Nutzer gut genug kennt, um zu wissen, wie er abstrakte Befehle umsetzt – ob er etwa Chopin oder Simon & Garfunkel abspielen soll und wie stark das smarte Wohnzimmer das Licht dimmen und welche Lichttemperatur es wählen soll.

Wer denkt da an die Weltuntergangsszenarien, die KI-Bosse aus dem Silicon Valley wie Elon Musk, Dario Amodei (Anthropic) oder Sam Altman (OpenAI) jüngst an die Wand malten? Demnach übernehmen KI-Agenten bald das Internet oder entwerfen tödliche Biowaffen. KI-Agenten verbessern sich in vielen Schleifen selbst, um schließlich den Menschen intellektuell zu überflügeln und eigene Ziele zu verfolgen – der Terminator als Schreckensbild.