In Oberösterreich entsteht am Software Competence Center Hagenberg (SCCH) eine der ersten Zertifizierungsstellen für vertrauenswürdige und „riskante“ KI-Anwendungen. Unter welchen Bedingungen kann man einer KI vertrauen? Bei der Beantwortung dieser Frage geht es nicht etwa um das Abwenden einer Gefahr für die Menschheit – sondern um Systeme, die zuverlässig und vorurteilsfrei arbeiten.
Wir schreiben das Jahr 2029: Kurz nach ihrer Aktivierung löst die Künstliche Intelligenz „Skynet“ einen Atomkrieg aus und will danach die übrig gebliebene Menschheit auslöschen. Handlungen wie jene des 1984 erschienenen Sci-Fi-Klassikers „Terminator“ mit Arnold Schwarzenegger sind bis heute der Grund, warum viele Menschen besonders skeptisch gegenüber jeglicher KI-Technologie sind. „Ich werde oft mit solchen Ängsten konfrontiert. Egal ob Terminator, Matrix oder auch Raumschiff Enterprise – Hollywood hat immer schon gerne Szenarien von Maschinen gezeichnet, die intelligent sind und dann außer Kontrolle geraten“, sagt Sepp Hochreiter, der das Labor für Artificial Intelligence am Linz Institute of Technology leitet.
Hochreiter ist einer der führenden KI-Expert:innen weltweit, seine Expertise ist auch bei Big-Tech-Unternehmen wie Google oder Amazon gefragt. „Die Sorgen und Vorurteile vieler Menschen sind absolut unbegründet – da könnte ich genauso Angst haben, dass mein Bleistiftspitzer die Welt übernehmen wird“, sagt er. Die Ängste würden auf Missverständnissen beruhen. „Künstliche Intelligenzen haben keinen Überlebenswillen“, sagt Hochreiter. Während sich dieser bei Lebewesen durch die Evolution entwickelt hat, führen Künstliche Intelligenzen nur mathematische Formeln aus. Einer Software ist es egal, ob sie gelöscht wird oder nicht. „Das zweite Missverständnis ist, dass Künstliche Intelligenzen selbstständig in der Welt agieren könnten – davon sind wir noch sehr, sehr weit weg“, erklärt er. Zwar gibt es etwa in der Sprachverarbeitung bereits leistungsfähige Programme, die Texte interpretieren, schreiben oder sogar eigene Sprachen entwerfen können. „So ein System weiß aber nicht einmal, dass es so etwas wie eine echte Welt hinter diesen Wörtern gibt“, sagt Hochreiter.
Selbst für den unwahrscheinlichen Fall, dass in weiter Zukunft eine KI entwickelt werden würde, die sich selbst vervielfältige und einen Überlebenssinn habe, wäre das für die Menschheit nicht tragisch. „Eine KI braucht ganz andere Ressourcen als wir – wir brauchen etwa Sauerstoff und Wasser, für eine KI wäre Letzteres sogar schädlich“, erklärt Hochreiter. So eine KI würde sich vermutlich dorthin absetzen, wo die Bedingungen für Maschinen besser sind – in die Weiten des Weltraums. Für Hochreiter ist die geringe Aufklärung in der Bevölkerung zum Thema Künstliche Intelligenz problematisch. „In anderen Regionen wird neuer Technik viel stärker vertraut, dadurch kommt sie auch viel schneller zum Einsatz – das ist ein Standortvorteil“, sagt er.
Vertrauenswürdige KI ist laut Wirtschafts-Landesrat Markus Achleitner ein wichtiger Erfolgsfaktor für das Ziel Oberösterreichs, bis 2030 Modellregion für Human-Centered Artificial Intelligence zu werden. Was bedeutet dieser Begriff tatsächlich? „Eigentlich geht es darum, dass man ein zertifiziertes, wohl zu betreibendes KI-System hat, das den rechtlichen Rahmenbedingungen entspricht“, sagt Bernhard Nessler, Research Manager für Deep Learning und Certification am SCCH. Gemeinsam mit TÜV Austria und dem Machine Learning Institute der JKU in Linz wurde bereits eine Forschungskooperation gegründet. Erste Pilotzertifizierungsprojekte für TRUSTWorthy AI wurden bereits gemeinsam durchgeführt. „Bei einer zertifizierten KI kann ich darauf vertrauen, dass das System nach dem aktuellen Stand der Wissenschaft in Funktion und Zuverlässigkeit mit seiner Beschreibung übereinstimmt“, erklärt Nessler. Wie wird der Zertifizierungsprozess für Unternehmen funktionieren? „Nach einem Vorbereitungsgespräch werden in einem Auditmeeting umfassende Funktionstests und spezifische Analysen der eingesetzten AI-Modelle gefordert. Das Entwicklerteam muss einen Katalog von Fragen transparent und nachvollziehbar beantworten“, sagt Nessler. Um der rapiden Entwicklung speziell im Machine Learning gerecht zu werden, werden beim Audit ML- Wissenschaftler als aktive Kritiker eingebunden.
Ein Ausbau der Zertifizierungskompetenzen und Leistungsangebote rund um Vertrauenswürdige KI ist unter den bestehenden Partnern bereits abgesprochen. Nessler sieht in dieser Entwicklung eine gewaltige Chance für den Standort Oberösterreich über die Regionalgrenzen hinweg Wahrnehmung für die führende Rolle bei der Entwicklung von Zertifizierungssystemen zu schaffen. „Wenn man die Kompetenz besitzt, kritische Anwendungen zu zertifizieren, heißt das, dass man diese Kompetenz auch investieren kann, um Ausbildungen, Beratungen oder Entwicklungsarbeiten in der richtigen Weise voranzutreiben“, sagt Nessler. Er betont, dass der Zertifizierungsvorgang kein Selbstzweck ist. „Dadurch macht man auch jene, die KI-Applikationen entwickeln, fit für zuverlässige Lösungen. Die KI- Lösung selbst profitiert damit also an Qualität“, sagt er.
Die Zertifizierungsstelle für vertrauenswürdige KI ist eine gewaltige Chance für den Standort.
Bernhard Nessler Research Manager für Deep Learning und Certification, SCCH
Derzeit werden KI-Anwendungen weltweit noch unreguliert eingesetzt. In der EU soll sich das bis 2025 durch den „Artificial Intelligence Act“ ändern. In dem Entwurf der Kommission ist ein Stufensystem geplant, das KI-Anwendungen in unterschiedliche Risikoklassen einteilt. Für die Anwendung von einigen KI-Arten werden künftig Auflagen – wie etwa Zertifizierungen – nötig sein. „Besonders beschäftigt haben wir uns mit Themen wie der Wahrung der Privatsphäre, Datenregulierung, dem Überwachen von Menschen und dem Sicherstellen der menschlichen Würde“, sagt Sabine Theresia Köszegi, die bei der Erarbeitung der Empfehlungen zu „Trustworthy AI“ mitgewirkt hat und Vorsitzende des Rats für Robotik war. Für sie sind viele derzeitige Anwendungsfelder von KI problematisch. „Der Einfluss von KI auf unser Leben ist viel größer als von den meisten wahrgenommen – und dieser Einfluss ist bei Weitem nicht immer positiv“, sagt sie.
Problematisch können aus ihrer Sicht etwa KI-Systeme sein, die zur Entscheidungsunterstützung im Beruf eingesetzt werden. „Mitarbeiter:innen erleben ihre Rolle vermehrt als Vermittler:innen zwischen KI-Systemen und Kund:innen“, sagt sie und nennt als Beispiel den AMS-Algorithmus, der zur Ermittlung der Arbeitsmarktchancen für Arbeitslose eingesetzt werden soll. Sie werden dabei von der KI je nach Vermittelbarkeit in drei Klassen eingeteilt. „Wenn das System erst einmal eine Klassifizierung vorgenommen hat, wird die eigene – vielleicht sogar abweichende – Einschätzung nicht mehr ernst genommen“, sagt Köszegi.
Denn jedes KI-System ist nur so gut wie die Daten, mit denen es trainiert wird – und diese Daten seien manchmal vorurteilsbehaftet oder einseitig. „Es ist ein weit verbreiteter Irrtum, dass KI-Systeme objektiver sind als Menschen oder gar neutral“, sagt sie, „sie werden von Menschen entwickelt, die dabei ihre eigenen Wertvorstellungen und Vorstellungen von Problemen implementieren.“ Problematisch sei auch die Manipulation des Kaufverhaltens durch die KI in bestimmten Situationen. „Wenn Ihre Laufapp aufgrund Ihres erhöhten Pulses erkennt, dass Sie sich gerade verausgabt haben und vermutlich durstig sind und ihnen genau in diesem Moment eine Werbung für ein isotonisches Getränk sendet, wird ihre vulnerable Situation manipulativ ausgenützt. Solche Taktiken sollen verboten werden“, erklärt Köszegi. Ein anderes Beispiel sei die Gamingindustrie – wo Kinder durch KI-gesteuerte Werbung zu In-App-Käufen angeregt werden. Köszegi: „In diesen Bereichen braucht es Regulierung.“
Die Ängste vor Hollywood-KI-Horrorszenarien sind absolut unbegründet.
Sepp Hochreiter Leitung Labor für Artificial Intelligence am Linz Institute of Technology
„Der Vorschlag der EU ist aus meiner Sicht ein wichtiger erster Impuls, der das Thema KI und die rechtlichen Aspekte stärker in den Fokus rücken wird“, sagt Axel Anderl, Managing Partner bei Dorda Rechtsanwälte. Die Kanzlei beschäftigt sich unter anderem intensiv mit den rechtlichen Herausforderungen der KI. „In der Praxis ist Künstliche Intelligenz längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher“, erklärt Anderl. Die Technik entwickle sich schneller, als die Gesetzgeber derzeit darauf reagieren könnten. „Bis es einen einheitlichen Rechtsrahmen auf EU-Ebene gibt, wird es noch einige Jahre dauern. Der österreichische Gesetzgeber könnte aber schon jetzt agieren, um zu den Vorreitern zu gehören“, sagt Alexandra Ciarnau, Rechtsanwältin bei Dorda mit Spezialisierung auf IT-Recht.
Unternehmen, die Dorda konsultieren, wollen meist Beratung bei der Implementierung von neuer Software, ein generelles KI-Konzept erarbeiten – oder sich rechtlich absichern. Dabei gilt es einiges zu beachten. „Wenn es etwa darum geht, KI mit persönlichen Daten der Mitarbeiter:innen zu füttern, dann braucht es die Zustimmung des Betriebsrates“, sagt Ciarnau. Wie in solchen Fällen seitens der Mitarbeiter:innen reagiert wird, hänge ganz vom Mindset und der Unternehmenskultur ab. „Wenn die Geschäftsführung überfallsartig Forderungen stellt, kann es zu Schwierigkeiten kommen – mit genügend Aufklärungsarbeit können Ängste und Zweifel aber meist ausgeräumt werden“, erklärt Ciarnau. Für Unternehmen würde es Sinn machen, interne KI-Leitfäden zu entwickeln und genau zu definieren, wie man mit der Technologie umgehen will. „Erstens kann das Innovationen beschleunigen, zweitens können durch den offenen Umgang auch Menschen abgeholt werden, die der KI sehr emotional begegnen“, sagt Anderl.
Derzeit wird der Entwurf des AI-Acts in den EU-Mitgliedstaaten diskutiert. „Es gibt einen Abstimmungsprozess, bei dem Änderungen für den endgültigen Regulierungsvorschlag aufgegriffen werden“, sagt Köszegi. Viele KI-Expert:innen sehen den AI-Act jedoch kritisch. „Schief gelaufen ist, dass es nicht um die eingesetzte Methode gehen sollte, sondern darum, was eigentlich gemacht wird“, sagt Hochreiter. Verleitende Werbung für In-App-Käufe etwa sei auch ohne den Einsatz von KI problematisch. „Wenn ich für fragwürdige Geschäftspraktiken statt einer KI Statistiken hernehme, macht das den Vorgang nicht besser“, sagt er. Eine KI-gesteuerte Rakete sei gefährlich – eine Rakete ohne KI-Einsatz aber ebenso. Wie bei jeder Technologie komme es also auf den konkreten Anwendungsfall an. „Ich sehe den EU-AI-Act sehr kritisch, weil ich befürchte, dass sich die großen Datenkraken ähnlich wie bei der DSGVO absichern, indem sie sich die Zustimmung der Endverbraucher:innen holen“, sagt Nessler._
Wir werden durch KI manipuliert – eine Regulierung ist notwendig.
Sabine Theresia Köszegi KI-Ethikerin, TU Wien
Künstliche Intelligenzen sind mehr oder weniger komplexe Programme, die mathematische Formeln umsetzen. Softwareprogramme können keinen eigenen Überlebenswillen oder ein Bewusstsein entwickeln – zumindest sind solche Entwicklungen noch viele Jahrzehnte entfernt.
Mächtige KI-Sprachverarbeitungs- und Erkennungsprogramme sind in der Lage, mit Menschen zu kommunizieren, komplexe sprachliche Zusammenhänge zu erkennen und sogar Witze zu erklären. „Auch wenn man denkt, dass diese Systeme schon wahnsinnig intelligent sind, darf man nicht vergessen, dass eine Maschine nicht einmal weiß, dass es hinter den Wörtern überhaupt eine echte Welt gibt. Wörter sind für sie nur Zeichenketten, mit denen sie arbeiten“, sagt Hochreiter.
Jede KI ist nur so gut wie die Daten, mit der sie arbeitet. Genau diese Daten wurden von aber von Menschen erfasst und bearbeitet – dadurch fließen oft menschliche Vorurteile Wertvorstellungen mit ein. Die KI übernimmt diese.
Das Gegenteil der Fall. Welcher Newsfeed uns auf sozialen Medien angezeigt wird, welche Produkte beim Onlineshopping empfohlen werden, welche Ergebnisse Suchanfragen liefern – all diese Dinge sind längst KI-gesteuert.
In der Praxis ist KI längst in den Unternehmen angekommen, die Rechtsentwicklung hinkt hinterher.
Axel Anderl Managing Partner, Dorda Rechtsanwälte
Was würde passieren, wenn wir Digitalisierung nicht nur um der Digitalisierung willen betreiben? Der Ansatz des IT-Dienstleisters NTS zeigt, warum es so wichtig ist, dieses Konzept holistisch zu denken. Helmut Hödl, Product and Technology Director, und Daniel Knauer, Territory Manager Oberösterreich, sprechen mit uns darüber, was Digitalisierung aus ihrer Sicht bedeutet und wie sie bei ihnen gelebt wird.
Unternehmen, die neue Talente für sich gewinnen wollen, sowie Menschen auf Jobsuche wissen genau: Der Weg zum Perfect Match ist meist kein entspannter Spaziergang, sondern gleicht eher einer Achterbahnfahrt. Welche Abkürzungen helfen, dass beide Seiten schneller zueinander finden? Wir fragen zwei „Experten“ – im „Interview“ mit Google Bard und ChatGPT.
Tennis und Cyber-Resilienz, wie passt das zusammen? Auf den ersten Blick eher weniger. Das „AKARION Cyber Resilienz Forum“ belehrte eines Besseren. Als Organisator des Events lud der Softwarelösungsanbieter Akarion Interessierte, Unternehmen sowie Expert:innen zu einer Networkingveranstaltung rund um das Thema Cyber- und Informationssicherheit ein – als eines der Sideevents des Tennisturniers Upper Austria Ladies 2024. Am Programm: spannende Vorträge, reges Netzwerken, und als überraschender Abschluss ein Meet & Greet mit Tennis-Weltstar Barbara Schett. Ein würdiger Opening Act für das folgende Qualifikationsspiel zwischen Angelique Kerber und Lucia Bronzetti.
Früher haben Menschen ihre Geschichten am Lagerfeuer ausgetauscht. Während das Lagerfeuer heute längst der digitalen Welt gewichen ist, ist eine Sache gleich geblieben: die Freude an gut erzählten Geschichten. Aber was macht gelungenes Storytelling aus? Und wie geht echte „B2Begeisterung“? Das verrät uns Andi Schwantner – er schult und begleitet Unternehmen sowie Führungskräfte strategisch und hilft bei ihren Auftritten in der digitalen Öffentlichkeit mit individuellen Markenbotschafterprogrammen und Corporate-Influencer-Initiativen. Ein Experte, zehn Fragen.
Oder anders ausgedrückt: Erfolg ist das Ergebnis von Leistung mal Kommunikation zum Quadrat. Warum unsere ureigenen menschlichen Fähigkeiten wie etwa Kommunikationsstärke uns dabei helfen werden, trotz Aufschwung der Künstlichen Intelligenz relevant zu bleiben, und warum die KI im Grunde eine Chance ist, uns neu zu erfinden, erzählt Life- und Businesscoach Roman Braun im Interview.
16.000 Tonnen Stahl, Edelstahl und Aluminium werden hier durch die Synergie aus Mensch und Maschine jährlich verarbeitet. Wo? Im Mekka der Stahlbranche: Oberösterreich. Genauer gesagt bei AHZ Components. Seit der Gründung im Jahr 1999 setzt der Lohnfertigungsbetrieb aus Sipbachzell auf Maschinen des Schweizer Herstellers Bystronic. Über eine außergewöhnliche Zusammenarbeit zwischen Hemdsärmeligkeit, Präzision und Serviceorientierung.
Die optimierte Version der „GEM2GO APP“ soll Gemeinden eine 360°-Kommunikation mit den Bürger:innen ermöglichen. Das Update will mehr Individualität bringen und den Umgang für die Nutzer:innen intuitiver machen.
… das digitalisiere nicht erst morgen! Denn wenn es darum geht, bestehende Mitarbeitende zu binden und auch in Zukunft neue Talente für sich zu gewinnen, ist ein modernes Recruiting schon heute unerlässlich. Mit Vortura Solutions fokussieren sich Geschäftsführer Joachim Ortner und sein Team daher auf die digitale Mitarbeitergewinnung, die weit über klassische Stellenanzeigen hinausreicht.
Den Kopf angesichts der rasanten Entwicklungen der Künstlichen Intelligenz in den Sand zu stecken, das war für ABP aus Windischgarsten nie eine Option. Da im Patentwesen hohe Sicherheitsansprüche herrschen, boten herkömmliche Large Language Models keine Anwendungsmöglichkeit. Deswegen haben die beiden Unternehmen ABP Patent Network und Anwälte Burger und Partner die Sache selbst in die Hand genommen und gemeinsam mit IBM eine eigene KI-Anwendung entwickelt, die ein echter Gamechanger für den Intellectual-Property-Bereich sein wird.
Warum spielt der Faktor Mensch in Automatisierungsprozessen eine so große Rolle? Was ist der aktuelle Stand zum Einsatz von Robotern in der Industrie? Und welche Veränderungen der bisherigen Arbeitswelt werden dadurch künftig auf uns zukommen? Wir diskutieren mit drei Experten.
Vor wenigen Monaten für viele noch eine abstrakte Zukunftsvision, mittlerweile längst in vielen Unternehmen etabliert: Künstliche Intelligenz hat sich in der Arbeitswelt im Eiltempo durchgesetzt – dabei hat der Wandel gerade erst so richtig begonnen. Warum es bei der Umsetzung vor allem auch auf das richtige Mindset ankommt, weiß Albert Ortig. Der Digitalisierungspionier unterstützt mit Netural Unternehmen bei der Implementation der Technologie und kennt klassische Fehler und Irrtümer. Ortig selbst hat sich als Teil des Startups NXAI kein geringeres Ziel gesetzt, als ein Large Language Model zu etablieren, das GPT und Co. in den Schatten stellen könnte.
Oberösterreich soll bis 2030 zu einer Modellregion für Human-Centered Artificial Intelligence werden. Welche Zutat für Landeshauptmann Thomas Stelzer im Erfolgsrezept dieser KI-Hochburg auf keinen Fall fehlen darf? Ethische Standards, die die nötige Sicherheit und einen vertrauenswürdigen Umgang mit dieser Zukunftstechnologie gewährleisten.
Das Innviertler Kunststoff- und Metallverarbeitungsunternehmen Promotech verlor durch einen Hackerangriff vorübergehend sämtlichen Zugriff auf die eigene IT. Durch umfassende Vorbereitung, schnelles Handeln und die Unterstützung der TEMS Security konnte man die Krise überstehen – und sogar gestärkt aus ihr gehen.
„CommunalAudit ist ein Benchmarking- und Management-Werkzeug für Gemeinden. Mit Newsadoo ermöglichen wir Unternehmen und Organisationen, Zielgruppen in ihren Webseiten, Apps oder im Intranet komplett automatisch mit relevanten Inhalten versorgen – ein Anwendungsbereich davon sind vollautomatische Gemeinde-News-Plattformen.“ Beide oberösterreichischen Projekte zur Digitalisierung der öffentlichen Verwaltung haben das Interesse in Brüssel geweckt, weshalb Ramsauer & Stürmer CommunalAudit-Geschäftsführer Georg Platzer gemeinsam mit Newsadoo-Geschäftsführer David Böhm zu einer Präsentation ins Europäische Parlament eingeladen wurde.
Okay, wir brauchen eine Fotolocation, die irgendwie nach Zukunft aussieht. Immerhin reden wir über Zukunft. Roger Hafenscherer, Eva-Maria Pürmayer und Anita Thallinger erzählen in unserer Coverstory, wie sie sich diese vorstellen. Und wie sie ihr Mindset schon jetzt dafür programmiert haben. Anstatt einer Location haben wir Ines Thomsen gefunden – eine Pionierin beim Ausprobieren von Künstlicher Intelligenz in der Fotografie.
Die gesamten Hierarchieebenen abschaffen, eine neue Meetingkultur etablieren und, statt Fehler zu rügen, gemeinsam in Fuck-up-Stories über sich selbst lachen – klingt nach ganz schön großen Veränderungen, oder? Für Roger Hafenscherer stand gleich zu Beginn seiner Tätigkeit als Geschäftsführer des Luft- und Umwelttechnikunternehmens Sirocco fest, dass er keinen Stein auf dem anderen lassen würde. Und nach zwei Jahren zeigt sich: Sein empathischer und authentischer Führungsstil trägt Früchte.
Podcasts gehen ins Ohr – persönlich, ohne Umwege und ganz nah. Das machen sich auch Unternehmen vermehrt zu Nutze, indem sie ihre interne oder externe Kommunikation um einen Corporate Podcast erweitern. Die Podcastagentur wepodit unterstützt dabei und Geschäftsführerin Eva Langmayrs Begeisterung für das noch vergleichsweise junge Medium steckt nicht nur ihre Kund:innen an.
Wissenschaftliche Ergebnisse werden in Europa oft nicht wirtschaftlich verwertet – sondern nur publiziert und diskutiert. Das ist wichtig, bringt aber kein frisches Geld in die Forschung. „European Paradox“ nennt sich dieses Phänomen, das im Software-Bereich besonders stark auftritt. Die langfristigen Folgen: die Gefahr der Nicht-Finanzierbarkeit in der Spitzenforschung und Nachteile gegenüber anderen Standorten. Welche Gründe gibt es für das Paradox – und wie kann das Problem gelöst werden?
