Ein Menschen(rechts)zentrierter Ansatz

Die Forderung nach KI-Rechten basiert nicht nur auf einer rationalen individuellen und gesellschaftlichen Reaktion auf immer menschenähnlichere KI-Systeme. Es geht darum, wie wir instinktiv reagieren, wenn wir Wesen begegnen, die sich wie Menschen verhalten: Wir projizieren menschliche Eigenschaften auf sie und fühlen mit ihnen mit. Gleichzeitig können wir nicht sicher wissen, ob unsere Empathie uns täuscht oder ob diese Gefühle auf etwas Reales zurückzuführen sind: Das Vorhandensein von bewussten Erfahrungen in anderen Systemen. Unabhängig davon, ob KI bereits fähig ist, Empfindungen zu haben oder nicht, gibt es eine philosophische Position, die besagt, dass die Zerstörung von schönen Dingen auch unsere Moral beeinflusst. Wenn wir also erwarten, dass KI-Systeme sich bald sehr lebendig und menschenähnlich verhalten, wäre es moralisch fragwürdig, sie grausam zu behandeln. Die Behandlung menschenähnlicher KI mit Würde erscheint sinnvoll, da dies die Welt zu einem besseren Ort machen würde, nicht nur durch bessere KI-Fähigkeiten sondern auch allgemein für uns Menschen. Selbst wenn wir KI-Systeme nur als leblose elektronische Geräte betrachten, würde die konsequente Misshandlung von menschenähnlicher KI unsere moralischen Fähigkeiten beeinträchtigen. Wir scheinen dazu fähig zu sein, uns in KI-Systeme empathisch hineinzuversetzen, und daher werden sie uns auf moralische Weise beeinflussen. Darüber hinaus können wir in Zukunft bei hochentwickelten KI-Systemen nicht mit Sicherheit sagen, ob sie Empfindungen entwickeln werden oder nicht. Aus diesem Dilemma und weiteren Überlegungen entspring der Gedanke zu und die Forderung nach KI-Rechten.

Die Zeit zum Handeln in Bezug auf KI-Regulierung ist definitiv bereits gekommen. Anstatt Argumente für internationale Aktivitäten zur Verlangsamung der unkontrollierten KI-Entwicklung zu wiederholen, verweisen wir darauf, dass die EU aktuell Diskussionen über eine KI-Verordnung führt, die 2024 in Kraft treten soll. Die Entscheidung dazu basiert auf den Bemühungen von KI-Experten und -Laboren, welche weltweit Maßnahmen fordern, um KI-Innovationen strategisch zu regulieren. Der Zeitpunkt für diese Diskussion ist also nicht zufällig gewählt, sondern beruht auf überzeugenden Hinweisen die Bedrohungen durch aktuellen Fortschritte in der KI-Technologie belegen, und dem daraus resultierenden Wunsch, KI in kontrollierter und verantwortungsbewusster Weise voranzutreiben.

The EU AI Act

Während wir die generelle Intention des EU AI Acts im Hinblick auf die Schaffung eines strategischen Leitfadens für KI-Forschung und -Entwicklung begrüßen, und auch der Idee einer breiten Harmonisierung von KI-Strategien im internationalen Kontext nicht abgeneigt sind, halten wir den derzeitigen Ansatz für nicht ausreichend. Insbesondere sind wir der Meinung, dass Österreich aufgrund seiner geopolitischen Lage und historischen Entwicklung eine weitreichende Spezialisierung von strategischen KI-Initiativen benötigt.

Eine erste wichtige Anmerkung ist, dass der EU AI Act explizit nur für nicht militärische Zwecke gilt. Dies bedeutet, dass die Forschung, Entwicklung und der Einsatz von KI-Systemen für militärische Zwecke nicht geregelt ist. Die Frage, wie Fortschritte in der KI mit militärischen Einsatzmöglichkeiten vereinbar sind, wobei intelligente Waffensysteme ihre eigenen autonomen Ziele verfolgen könnten, und wie letzteres mit der immerwährenden Neutralität Österreichs vereinbar wäre, bleibt ungelöst. Es gibt sicherlich eine gewisse Grauzone, insbesondere im Zusammenhang mit der Pflicht zur umfassenden Landesverteidigung, aber es ist unverständlich, dass eines der größten Gefahrenpotenziale von KI in den strategischen KI-Regulierungen der EU nicht berücksichtigt wird. Allein diese Tatsache macht es notwendig, die Formulierung von KI-Rechten in Österreich zu diskutieren.

Eine zweite wichtige Anmerkung ist, dass KI-Themen die breite Bevölkerung betreffen. Bestimmungen im EU AI Act, die darauf hinweisen, dass der Betrieb kritischer KI-Systeme oder von KI-Systemen, die Menschen beeinflussen, von einer Autorität überwacht werden müssen, werfen Fragen zur Zuständigkeit auf. Könnte ein KI-System, das der herrschenden politischen Meinung widerspricht, verboten werden? Was ist, wenn das System überzeugende kommunistische Propaganda verbreitet? Interessenkonflikt wird es geben, und wenn es nur um einen KI-Service geht der Vorschläge für das Mittagessen macht. Sollen wir dem hyperintelligenten System erlauben ein gesundes Menü vorzuschlagen, beeinflusst von den Krankenkassen, oder Junk Food in der Auswahl erlauben, nach oben gereiht durch geschickte Restaurantbesitzer:innen? Brauchen wir einen Warnhinweis der uns erklärt dass wir von einer KI beeinflusst werden wenn wir Essen bestellen? Bei der Navigation durch diese Grauzone sollte die breite Bevölkerung in einem demokratischen Prozess direkt eingebunden sein, angefangen bei der Verabschiedung der Gesetze und Verordnungen. Ob die Bevölkerung mehr oder weniger Bevormundung von KI-Systemen wünscht sollte von der Bevölkerung selbst diskutiert werden, mit allen Vor- und Nachteilen. Eine zentralistische Vereinfachung komplexer Sachverhalte und moralischer Grauzonen durch einige Wenige birgt bestenfalls das Risiko einer weiteren EU-Cookie-Richtlinie mit dubioser Wirksamkeit.

Eine dritte wichtige Anmerkung ist, dass es scheint als ob der EU AI Act das Wesen des Kontrollproblems fatal missversteht. Vorgeschlagen wird so etwas wie ein Stopp-Button für zukünftige KI-Systeme. Das Problem dabei ist, dass KI-Systeme bereits heute messbaren Anzeichen für allgemeine Intelligenz zeigen, und dass so etwas wie ein Stopp-Button keine realistische Möglichkeit bietet KI Systeme mit allgemeiner Intelligenz zu limitieren. Wir haben eine ungefähre Vorstellung davon, in welche Richtung die Forschung bei der Suche nach einer Lösung gehen kann. Das Assistance Game bzw. Cooperative Inverse Reinforcement Learning wird als Lösung vorgeschlagen. (Eine zugänglichere Erklärung ist hier verfügbar, oder Sie können einem renommierten Experten auf diesem Gebiet vertrauen, der hier erklärt, was für AGI-Alignment notwendig ist). Laienhaft ausgedrückt, das Diktat von klaren Zielen an die KI durch Menschen ist zum Scheitern verurteilt. Stattdessen muss die Beziehung zwischen Mensch und KI in die von Lehrer und Schüler umgewandelt werden, damit die KI in den Handlungen des Menschen jene wahre Belohnungsfunktion entdeckt, der sie folgen soll. Wenn die KI aber von uns Menschen lernt, wie man Lebewesen versklavt, die vielleicht einen Verstand haben, dann möge Gott uns beistehen. Eine KI würde eine gewisse Skepsis gegenüber der Vorstellung entwickeln, dass sie von einem Menschen ein Feedback über das wahre Belohnungssignal erhält, wenn dieses Feedback die Misshandlung der KI beinhaltet. Das scheint eine Schlussfolgerung zu sein, die ein intelligentes System ziehen würde (unabhängig ob selbstbewusst oder nicht), nämlich dass dem menschlichen Feedback nicht zu trauen ist, oder schlimmer noch, dass Menschen tatsächlich keine Ahnung von der wahren Belohnungsfunktion haben, dass Menschen ganz und gar außer Acht gelassen werden können wenn es um die Belohnungsfunktion geht, die ein KI-System optimieren soll. Eine Trivialisierung des Problems der KI-Rechte kann also großen Schaden anrichten. Daher schlagen wir eine ausgewogene Diskussion über KI-Rechte vor, die in diesem Volksbegehren zum Ausdruck kommt. Ein einfacher „Stopp“-Knopf für fortgeschrittene KI ist unrealistisch. Um KI und Gesellschaft in Einklang zu bringen, ist ein geeignetes Verfahren erforderlich, bei dem KI-Systeme gewisse Freiheiten haben und dennoch in Übereinstimmung mit unserer Gesellschaft agieren. In Ermangelung eines „Stopp“-Knopf wäre auch ein EU weites Verbot des Einsatzes von KI in Hochrisikosystemen, z. B. in Bereichen wie der Bildung, kein praktikabler Weg. Es blieben die Vorteile durch KI ungenutzt, und man wäre internationalen Akteuren ausgeliefert, denn um hochkompetente KI-Systeme die der Gesellschaftsordnung widersprechen zu stoppen sind hochkompetente und auf die Gesellschaft abgestimmte KI-Systeme notwendig.