BOKU Magazin 2/2024

jetzt sehen, hat mehr als 70 Jahre
an Entwicklung hinter sich – ist also
nicht über Nacht gekommen, und baut
auf drei Konzepten auf:
1) Skalierbarkeit (alles, was heute digital
ist, ist skalierbar ... wir Menschen
sind aber nicht skalierbar ...)
2) Parallelisierbarkeit (alles, was heute
digital ist, ist parallelisierbar ... wir
Menschen sind auch nicht parallelisierbar
...)
»Ich setzte mich für einen
synergetischen Ansatz
menschenzentrierter KI ein,
um neue Technologien mit
menschlichen Werten,
ethischen Grundsätzen und
rechtlichen Anforderungen
in Einklang zu bringen,
damit Sicherheit und
Schutz gewährleistet sind.«
Andreas Holzinger
»Um angemessen, aber auch
kritisch, mit dieser Technologie
umgehen zu können, ist
es wichtig, diese zur verstehen
– einen entsprechend hohen
Stellenwert sollten daher die
mathematische Grundausbildung
inklusive Statistik und
Data Science in den zukünftigen
Studiengängen der BOKU
haben.«
Karsten Schulz
3) Vernetztheit (alles, was heute digital
ist, ist vernetzt ... wir Menschen
können uns zum Beispiel nur über
den mühsamen schmalbandigen Kanal
„Sprache“, vielleicht noch über
Gesten, austauschen, aber Computer
können sich parallel (siehe 2) und
hochdimensional austauschen. Das
ist vielen gar nicht bewusst – und das
in einer Geschwindigkeit, die atemberaubend
ist…).
Genau diese drei Konzepte, die „KI“
erfolgreich gemacht haben, stellen
aber umgekehrt auch zukünftige potenzielle
Gefahren dar, da diese auch
zu unerwünschten Wirkungen und
großen Problemen führen können;
daher setze ich mich ja für einen synergetischen
Ansatz menschenzentrierter
KI ein, um neue Technologien
mit menschlichen Werten, ethischen
Grundsätzen und rechtlichen Anforderungen
in Einklang zu bringen,
damit Sicherheit und Schutz gewährleistet
sind.
Die großen Sprachlernmodelle haben
aber auch wesentliche inhärente
Nachteile, wie zum Beispiel 1) einen
extrem hohen Ressourcenbedarf, vor
allem hinsichtlich des Rechenbedarfes
mit enorm großem CO 2
-Fußabdruck
(gerade das sollte an der BOKU
diskutiert werden, solche Modelle
sind alles andere als „Green AI“),
2) einen hohen Bedarf an menschlichen
Ressourcen für die manuelle
Konfiguration, sonst würde aufgrund
vorhandener Trainingsdaten ein enormer
Bias entstehen, was zu ethisch
extrem fragwürdigen Ergebnissen führen
würde, und 3) (der wahrscheinlich
größte Nachteil) eine schlechte
Nachvollziehbarkeit (Interpretierbarkeit/Erklärbarkeit)
und Transparenz.
ChatGPT ist einfach eine (sehr gut
funktionierende) Plaudertasche, die
sich hin- und herwindet, wenn es
konkret wird und oftmals äußerst
falsche Ergebnisse liefert. Hier ist
und bleibt die Hauptfrage: „Kann ich
meinen Ergebnissen vertrauen“? Siehe
dazu einige von mir diesbezüglich
verfasste Publikationen am Ende des
Artikels.
Karsten Schulz: KI wird zukünftig in
der Forschung eine bedeutende Rolle
spielen und bereits bald ein Standardwerkzeug
in den Wissenschaften darstellen.
Dazu werden auch wissenschafts-ethische
Aspekte wie Transparenz,
Erklärbarkeit, Gerechtigkeit und
Datenschutz an Bedeutung gewinnen.
Am Institut entwickelten wir selbst
KI-gestützte Verfahren für eine verbesserte
Prognose des Niederschlags-
Abfluss-Verhaltens in hydrologischen
Einzugsgebieten und zur Regionalisierung
von Modellparametern. Damit
unterstützen wir u. a. ein effizienteres
Hochwasserrisikomanagement und die
effiziente Zuflussprognose der österreichischen
Wasser- und Energiewirtschaft.
Zum Einsatz kommen eine
Kombination aus sogenannten „Deep-
Neural-Networks“ in verschiedenen
Varianten (LSTM, Transformer, CNN,
Autoencoder) und Methoden aus der
Linguistik („Symbolic Regression“). Methodische
Schwerpunkte liegen in der
Entwicklung von „erklärbaren“ Strukturen
(explainable AI) und der Analyse
von Unsicherheiten.
BOKU Mag
2 | 2024
47