Chinesische Zensur in Vorarlberger Behörden-KI

Kaum gestartet, sorgt die neue Landes-KI „VOKI“ für mächtig Wirbel in Vorarlberg: Das System basiert nämlich auf einem Sprachmodell des chinesischen Konzerns Alibaba, gibt falsche Auskünfte und zensiert politisch brisante Themen. Ein absolutes No-Go meinen die Grünen und fordern von Landeshauptmann Markus Wallner eine lückenlose Aufklärung.

Ende September stellte die Landesregierung ihr neues KI-Tool „VOKI“ vor. Dieses sollte eigentlich den Bediensteten das Zusammenfassen, Übersetzen und Durchsuchen von Dokumenten erleichtern – sicher und auf eigenen Servern. So können die Chinesen zwar nicht auf die Daten des Landes zugreifen, nicht bedacht wurde aber offenbar, dass im Hintergrund eine Technologie des chinesischen Tech-Giganten Alibaba arbeitet.

So bewegen sich die Antworten in einem ideologischen Korsett staatlicher Vorgaben. Gedacht wird nur so weit, wie es die chinesische Staatsführung erlaubt. Die Folge: Bei Fragen zum Massaker am Platz des Himmlischen Friedens verweigerte die KI schlichtweg die Antwort mit dem Verweis auf in China sensible Inhalte. Auch beim Thema Taiwan antwortete das System ganz im Sinne der Parteiführung in Peking.

Objektivität und Unparteilichkeit als Basis
Für Grünen-Klubobmann Daniel Zadra ist das ein unhaltbarer Zustand. In einer parlamentarischen Anfrage an Landeshauptmann Markus Wallner warnt er davor, die Landesverwaltung mit einer Software auszustatten, die der Zensur einer Diktatur unterliegt – schließlich vollzieht das Land Gesetze, erlässt Bescheide, entscheidet über Staatsbürgerschaften und Sozialleistungen. „Hier muss Objektivität, Unparteilichkeit und Wahrhaftigkeit walten. Setzt eine Verwaltung hingegen ein Werkzeug ein, dessen Verhalten von den Vorgaben einer autoritären Einparteienherrschaft mitgeprägt ist, berührt das unmittelbar die demokratische Integrität des Landes“, kritisiert Zadra.

Zensurmuster in nur 3,5 Stunden entfernt?
Verwundert ist der Grünen-Chef auch darüber, dass das Land nach den ersten Medienberichten innerhalb weniger Stunden mitteilte, das Problem sei behoben. Für ihn werfe diese Meldung nur noch mehr Fragen auf. Ein schnell vorgeschalteter Filter lösche schließlich nicht die politischen Zensurmuster, die tief im Modell verankert seien. Die Grünen wollen von Wallner nun genaue Auskünfte über die Entscheidungsprozesse, die bisherigen Kosten und den konkreten Einsatz in den Ämtern sehen – und verlangen den Wechsel zu einer unvoreingenommenen, europäischen Alternative.