Constructor University und das Spinoff-KMU Rasdaman GmbH forschen daran, wie KI-Modelle auf zuverlässige Art und Weise beschränkt werden können.
Projekt Fairgeo
KI ist ein mächtiges Werkzeug, jedoch noch längst nicht ausreichend zuverlässig. Insbesondere auf Big Geo Data wie Satelliten- und Wetterdaten, wo eine menschliche Überprüfung von Ergebnissen unmöglich ist, kann diese Unzuverlässigkeit zu gefährlichen Fehlentscheidungen führen. Erste Experimente zur Integration mit raum-zeitlichen Geo-Datenwürfeln haben gezeigt, dass die leichte Anwendung von trainierten Modellen oft dazu führt, dass diese aus Unkenntnis außerhalb ihrer „Wohlfühlzone“ angewendet werden und dann falsche Ergebnisse liefern. Dennoch wird KI unbestritten immer wichtiger, um zeitnah Analysen auf den großvolumigen „Big Geo Data“ zu ermöglichen.
„Mit unserer Rasdaman-Plattform ist es sehr einfach, Modelle auf jeden Ort und auf jede Zeit anzusetzen. Allerdings stellen wir fest, daß Modelle sehr schnell an Genauigkeit verlieren, wenn sie außerhalb der Wohlfühlzone ihrer Trainingsdaten angewendet werden“, erklärt Projektleiter Peter Baumann, Professor für Informatik and er Constructor University Bremen, und fährt fort, „im Gut-Fall haben wir 85% Genauigkeit und mehr beobachtet, im Schlecht-Fall erodiert das schon mal auf 20% - wenn man eine Münze wirft, ist man dann besser dran als mit KI.“
Der Forschungsansatz besteht darin, KI-Modelle nach Möglichkeit auf solche Situationen einzuschränken, in denen sie akzeptable Ergebnisse liefern. „Model fencing“ nennt das Baumann und hat ein Beispiel: „Wenn ein Modell Landnutzung wie Weizen oder bebautes Land klassifizieren soll, wird es über dem Ozean nur halluzinieren, also Unsinn liefern.“ Für Menschen ist das manchmal sehr einfach zu erkennen - wird jedoch KI inmitten einer automatisierten Prozessierungskette eingesetzt, so gibt es keine Prüfinstanz mehr. Die Folgen können schwerwiegend bis hin zu katastrophal sein.
Weitere Informationen unter www.rasdaman.com