Wir schreiben das Jahr 2029: Kurz nach ihrer Aktivierung löst die Künstliche Intelligenz „Skynet“ einen Atomkrieg aus und will danach die übrig gebliebene Menschheit auslöschen. Handlungen wie jene des 1984 erschienenen Sci-Fi-Klassikers „Terminator“ mit Arnold Schwarzenegger sind bis heute der Grund, warum viele Menschen besonders skeptisch gegenüber jeglicher KI-Technologie sind. „Ich werde oft mit solchen Ängsten konfrontiert. Egal ob Terminator, Matrix oder auch Raumschiff Enterprise – Hollywood hat immer schon gerne Szenarien von Maschinen gezeichnet, die intelligent sind und dann außer Kontrolle geraten“, sagt Sepp Hochreiter, der das Labor für Artificial Intelligence am Linz Institute of Technology leitet.

Hochreiter ist einer der führenden KI-Expert:innen weltweit, seine Expertise ist auch bei Big-Tech-Unternehmen wie Google oder Amazon gefragt. „Die Sorgen und Vorurteile vieler Menschen sind absolut unbegründet – da könnte ich genauso Angst haben, dass mein Bleistiftspitzer die Welt übernehmen wird“, sagt er. Die Ängste würden auf Missverständnissen beruhen. „Künstliche Intelligenzen haben keinen Überlebenswillen“, sagt Hochreiter. Während sich dieser bei Lebewesen durch die Evolution entwickelt hat, führen Künstliche Intelligenzen nur mathematische Formeln aus. Einer Software ist es egal, ob sie gelöscht wird oder nicht. „Das zweite Missverständnis ist, dass Künstliche Intelligenzen selbstständig in der Welt agieren könnten – davon sind wir noch sehr, sehr weit weg“, erklärt er. Zwar gibt es etwa in der Sprachverarbeitung bereits leistungsfähige Programme, die Texte interpretieren, schreiben oder sogar eigene Sprachen entwerfen können. „So ein System weiß aber nicht einmal, dass es so etwas wie eine echte Welt hinter diesen Wörtern gibt“, sagt Hochreiter.

Selbst für den unwahrscheinlichen Fall, dass in weiter Zukunft eine KI entwickelt werden würde, die sich selbst vervielfältige und einen Überlebenssinn habe, wäre das für die Menschheit nicht tragisch. „Eine KI braucht ganz andere Ressourcen als wir – wir brauchen etwa Sauerstoff und Wasser, für eine KI wäre Letzteres sogar schädlich“, erklärt Hochreiter. So eine KI würde sich vermutlich dorthin absetzen, wo die Bedingungen für Maschinen besser sind – in die Weiten des Weltraums. Für Hochreiter ist die geringe Aufklärung in der Bevölkerung zum Thema Künstliche Intelligenz problematisch. „In anderen Regionen wird neuer Technik viel stärker vertraut, dadurch kommt sie auch viel schneller zum Einsatz – das ist ein Standortvorteil“, sagt er.

KI-Zertifizierung ist kein Selbstzweck

Vertrauenswürdige KI ist laut Wirtschafts-Landesrat Markus Achleitner ein wichtiger Erfolgsfaktor für das Ziel Oberösterreichs, bis 2030 Modellregion für Human-Centered Artificial Intelligence zu werden. Was bedeutet dieser Begriff tatsächlich? „Eigentlich geht es darum, dass man ein zertifiziertes, wohl zu betreibendes KI-System hat, das den rechtlichen Rahmenbedingungen entspricht“, sagt Bernhard Nessler, Research Manager für Deep Learning und Certification am SCCH. Gemeinsam mit TÜV Austria und dem Machine Learning Institute der JKU in Linz wurde bereits eine Forschungskooperation gegründet. Erste Pilotzertifizierungsprojekte für TRUSTWorthy AI wurden bereits gemeinsam durchgeführt. „Bei einer zertifizierten KI kann ich darauf vertrauen, dass das System nach dem aktuellen Stand der Wissenschaft in Funktion und Zuverlässigkeit mit seiner Beschreibung übereinstimmt“, erklärt Nessler. Wie wird der Zertifizierungsprozess für Unternehmen funktionieren? „Nach einem Vorbereitungsgespräch werden in einem Auditmeeting umfassende Funktionstests und spezifische Analysen der eingesetzten AI-Modelle gefordert. Das Entwicklerteam muss einen Katalog von Fragen transparent und nachvollziehbar beantworten“, sagt Nessler. Um der rapiden Entwicklung speziell im Machine Learning gerecht zu werden, werden beim Audit ML- Wissenschaftler als aktive Kritiker eingebunden.

Ein Ausbau der Zertifizierungskompetenzen und Leistungsangebote rund um Vertrauenswürdige KI ist unter den bestehenden Partnern bereits abgesprochen. Nessler sieht in dieser Entwicklung eine gewaltige Chance für den Standort Oberösterreich über die Regionalgrenzen hinweg Wahrnehmung für die führende Rolle bei der Entwicklung von Zertifizierungssystemen zu schaffen. „Wenn man die Kompetenz besitzt, kritische Anwendungen zu zertifizieren, heißt das, dass man diese Kompetenz auch investieren kann, um Ausbildungen, Beratungen oder Entwicklungsarbeiten in der richtigen Weise voranzutreiben“, sagt Nessler. Er betont, dass der Zertifizierungsvorgang kein Selbstzweck ist. „Dadurch macht man auch jene, die KI-Applikationen entwickeln, fit für zuverlässige Lösungen. Die KI- Lösung selbst profitiert damit also an Qualität“, sagt er.

Wie KI uns beeinflusst

Derzeit werden KI-Anwendungen weltweit noch unreguliert eingesetzt. In der EU soll sich das bis 2025 durch den „Artificial Intelligence Act“ ändern. In dem Entwurf der Kommission ist ein Stufensystem geplant, das KI-Anwendungen in unterschiedliche Risikoklassen einteilt. Für die Anwendung von einigen KI-Arten werden künftig Auflagen – wie etwa Zertifizierungen – nötig sein. „Besonders beschäftigt haben wir uns mit Themen wie der Wahrung der Privatsphäre, Datenregulierung, dem Überwachen von Menschen und dem Sicherstellen der menschlichen Würde“, sagt Sabine Theresia Köszegi, die bei der Erarbeitung der Empfehlungen zu „Trustworthy AI“ mitgewirkt hat und Vorsitzende des Rats für Robotik war. Für sie sind viele derzeitige Anwendungsfelder von KI problematisch. „Der Einfluss von KI auf unser Leben ist viel größer als von den meisten wahrgenommen – und dieser Einfluss ist bei Weitem nicht immer positiv“, sagt sie.

Problematisch können aus ihrer Sicht etwa KI-Systeme sein, die zur Entscheidungsunterstützung im Beruf eingesetzt werden. „Mitarbeiter:innen erleben ihre Rolle vermehrt als Vermittler:innen zwischen KI-Systemen und Kund:innen“, sagt sie und nennt als Beispiel den AMS-Algorithmus, der zur Ermittlung der Arbeitsmarktchancen für Arbeitslose eingesetzt werden soll. Sie werden dabei von der KI je nach Vermittelbarkeit in drei Klassen eingeteilt. „Wenn das System erst einmal eine Klassifizierung vorgenommen hat, wird die eigene – vielleicht sogar abweichende – Einschätzung nicht mehr ernst genommen“, sagt Köszegi.

Denn jedes KI-System ist nur so gut wie die Daten, mit denen es trainiert wird – und diese Daten seien manchmal vorurteilsbehaftet oder einseitig. „Es ist ein weit verbreiteter Irrtum, dass KI-Systeme objektiver sind als Menschen oder gar neutral“, sagt sie, „sie werden von Menschen entwickelt, die dabei ihre eigenen Wertvorstellungen und Vorstellungen von Problemen implementieren.“ Problematisch sei auch die Manipulation des Kaufverhaltens durch die KI in bestimmten Situationen. „Wenn Ihre Laufapp aufgrund Ihres erhöhten Pulses erkennt, dass Sie sich gerade verausgabt haben und vermutlich durstig sind und ihnen genau in diesem Moment eine Werbung für ein isotonisches Getränk sendet, wird ihre vulnerable Situation manipulativ ausgenützt. Solche Taktiken sollen verboten werden“, erklärt Köszegi. Ein anderes Beispiel sei die Gamingindustrie – wo Kinder durch KI-gesteuerte Werbung zu In-App-Käufen angeregt werden. Köszegi: „In diesen Bereichen braucht es Regulierung.“

Rechtliche Herausforderungen für Unternehmen

„Der Vorschlag der EU ist aus meiner Sicht ein wichtiger erster Impuls, der das Thema KI und die rechtlichen Aspekte stärker in den Fokus rücken wird“, sagt Axel Anderl, Managing Partner bei Dorda Rechtsanwälte. Die Kanzlei beschäftigt sich unter anderem intensiv mit den rechtlichen Herausforderungen der KI. „In der Praxis ist Künstliche Intelligenz längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher“, erklärt Anderl. Die Technik entwickle sich schneller, als die Gesetzgeber derzeit darauf reagieren könnten. „Bis es einen einheitlichen Rechtsrahmen auf EU-Ebene gibt, wird es noch einige Jahre dauern. Der österreichische Gesetzgeber könnte aber schon jetzt agieren, um zu den Vorreitern zu gehören“, sagt Alexandra Ciarnau, Rechtsanwältin bei Dorda mit Spezialisierung auf IT-Recht.

Unternehmen, die Dorda konsultieren, wollen meist Beratung bei der Implementierung von neuer Software, ein generelles KI-Konzept erarbeiten – oder sich rechtlich absichern. Dabei gilt es einiges zu beachten. „Wenn es etwa darum geht, KI mit persönlichen Daten der Mitarbeiter:innen zu füttern, dann braucht es die Zustimmung des Betriebsrates“, sagt Ciarnau. Wie in solchen Fällen seitens der Mitarbeiter:innen reagiert wird, hänge ganz vom Mindset und der Unternehmenskultur ab. „Wenn die Geschäftsführung überfallsartig Forderungen stellt, kann es zu Schwierigkeiten kommen – mit genügend Aufklärungsarbeit können Ängste und Zweifel aber meist ausgeräumt werden“, erklärt Ciarnau. Für Unternehmen würde es Sinn machen, interne KI-Leitfäden zu entwickeln und genau zu definieren, wie man mit der Technologie umgehen will. „Erstens kann das Innovationen beschleunigen, zweitens können durch den offenen Umgang auch Menschen abgeholt werden, die der KI sehr emotional begegnen“, sagt Anderl.

Derzeit wird der Entwurf des AI-Acts in den EU-Mitgliedstaaten diskutiert. „Es gibt einen Abstimmungsprozess, bei dem Änderungen für den endgültigen Regulierungsvorschlag aufgegriffen werden“, sagt Köszegi. Viele KI-Expert:innen sehen den AI-Act jedoch kritisch. „Schief gelaufen ist, dass es nicht um die eingesetzte Methode gehen sollte, sondern darum, was eigentlich gemacht wird“, sagt Hochreiter. Verleitende Werbung für In-App-Käufe etwa sei auch ohne den Einsatz von KI problematisch. „Wenn ich für fragwürdige Geschäftspraktiken statt einer KI Statistiken hernehme, macht das den Vorgang nicht besser“, sagt er. Eine KI-gesteuerte Rakete sei gefährlich – eine Rakete ohne KI-Einsatz aber ebenso. Wie bei jeder Technologie komme es also auf den konkreten Anwendungsfall an. „Ich sehe den EU-AI-Act sehr kritisch, weil ich befürchte, dass sich die großen Datenkraken ähnlich wie bei der DSGVO absichern, indem sie sich die Zustimmung der Endverbraucher:innen holen“, sagt Nessler._