Ein Hochtechnologie-Startup staubt eine fette EU-Förderung ab. Und vergisst das Ethik-Assessment. Das sehr, sehr schmale Zeitfenster machte erfinderisch.
Client
Auf Anfrage
Year
2024
Services
Ethics & Compliance Assessment
Ethics Advisor Report
Recommendations
Deadline!?
17. – 23. Januar 2024
TL;DR
Herausforderung
Ein Hightech-Startup kriegt eine enorme öffentliche(!) Förderung von der EU und verpennt das obligatorische Ethik- und Compliance Assessment. Die Deadline ist wenige Tage entfernt. Die relevanten Dokumente übers ganze Unternehmen verstreut, unsortiert und unstrukturiert – dafür aber viele.
Idee und Lösung
Ein hybrider Prozess, bestehend aus manueller Sichtung, LLM-gestützter Sortierung und Clusterung sowie einem Fragebogen führt zu einem Ethik-Assessment, das in wenigen Arbeitstagen durchführbar ist, dennoch nichts auslässt und sich nicht auf "die KI" verlässt. Verantwortung bleibt: menschlich.
Ergebnis
Ein vollumfassendes Ethik-Assessment inkl. des obligatorischen Reports für die EU-Kommission, welches weit über das Mindestmaß (Compliance mit DSGVO-Regularien) hinausgeht, wichtige Fragestellungen erörtert, unter Scope und Budget bleibt und den Auftraggebern die Sicherheit des Wissens vermittelt.
Die Ausgangslage: Viele große Bilder,
aber kein Big Picture
Das Unternehmen – ein höchst erfolgreiches Startup im Bereich Satellitentechnologie – bearbeitet kommerziell verfügbare Satellitenbilder (Foto, Infrarot, Radar, …) mit selbstlernenden („KI“-) Algorithmen. Netzbetreibern und anderen Infrastrukturanbietern kann so ein Wissensvorsprung ermöglicht werden: Bahntrassen können im Voraus von überwuchernden Birken befreit werden, Unternehmen mit sensiblen Import-Rohstoffen können die Lieferketten einfacher überwachen, Pipeline-Betreiber können die Auswirkungen seismischer Vorkommnisse in Echtzeit überwachen und so weiter.
Mit Bild- und Mustererkennung kennen sich diese Leute aus, sollte man zumindest meinen. Nur gilt das – wie so oft – nicht fürs eigene Unternehmen:
Als im Zuge einer hohen EU-Finanzierung (siehe dazu EIC Horizon, EIC Accelerator) ein Ethik Advisory notwendig wurde – das ist Auflage der EU Kommission –, fiel es dem Unternehmen schwer, dieses durchzuführen. Zu obskur waren die Anforderungen und zu unsortiert und undurchschaubar schienen die inhaltlichen Dokumente. Die nebenbei über das komplette Unternehmen verteilt waren. Ein zentralisiertes Wissensmanagement gab es zwar – genutzt wurde es auch. Nur nicht für diesen Fall. Alles war irgendwie dokumentiert – es war nur nicht klar, wo und in welcher Form. Was gebraucht wurde, war unklar und von den inhaltlichen Aspekten war hier noch gar nicht die Rede.
Die Aufgabe war also: Herausfinden, welche Fragen gestellt werden müssten. Sie entpuppte sich als die Suche nach einer Reihe Nadeln in verschiedenen Heuhaufen.
„Höhö, gibt es dafür noch keine KI-Lösung?“ unken da die selbsternannten Experten der Künstlichen Intelligenz.
Nein, gibt es nicht.
Keine derzeit verfügbare „KI“ kann dergestalt Themen und Inhalte miteinander verbinden, dass relevante zukunftsgerichtete Fragestellungen generiert werden würden – „KI“ ist nicht in der Lage, aus Dokumenten mit unklarem Inhalt Fragestellungen mit unklarer Relevanz abzuleiten. Und dann gibt es da noch ein klitzekleines Problemchen: KI ist nicht verantwortungsfähig. Ups.
Die Lösung:
Hybride
Mensch-Maschine Interaktion
Not macht erfinderisch, sagt der Volksmund. In diesem Fall wurde ein Prozess erfunden, der nicht nur das Beste, sondern auch das Meiste aus der Mensch-Maschine-Interaktion rausholen würde: menschliche Kreativität und Verantwortungsfähigkeit. Und die maschinelle Sortier- und Clusterfähigkeit großer, unstrukturierter Datenmengen. Was – LLM sei Dank – mittlerweile auch für Semantisches gilt.
Nachdem die formalen Anforderungen identifiziert waren, ging es an die Erfassung der notwendigen Dokumente. Mithilfe einer Projektassistenz im Team des Auftraggebers wurde in einem ersten Schritt großzügig gesammelt. Zum Vorschein kamen: PDF-Exporte von Intranet-Seiten, gespeicherte Websites, Powerpoint-Präsentationen, Handzettel, Spickzettel für Konferenz-Beiträge, Chat-Protokolle, Broschüren, eine MENGE verschiedene technische Kommunikation (technische Dokumentation, Programm-Code, Kommentare, User-Feedback und dergleichen mehr). Und natürlich auch die Governance- und Compliance-Dokumentation des Unternehmens, also Verhaltensrichtlinien und dergleichen. Ausgedruckt wären das einige Tausend Din-A4-Seiten. Keine Chance, das alles innerhalb weniger Tage ernsthaft durchzugehen.
Eine erste manuelle Sichtung war notwendig, um ein grundsätzliches Verständnis des Projekts und seiner möglichen ethischen Implikationen zu entwickeln. Zu diesem Zweck wurden einige Dokumente jeder Sparte gesichtet und ethische Ansatzpunkte grob zusammengefasst.
Die ethischen Fragestellungen, die in Schritt 2 identifiziert wurden, ließen sich in eine relativ handhabbare Zahl ethischer Problemfelder einsortieren: Es ging – soviel darf hier verraten werden – um Fragen des Persönlichkeitsrecht, Fragen der ökologischen Nachhaltigkeit und – damit verbunden – die Problematik der Verantwortung gegenüber kommenden Generationen, Fragen der Betriebssicherheit, Fragen des Datenschutz, der Datensicherheit und der Cybersicherheit, Fragen der Governance sowie Fragen der Compliance mit rechtlichen Aspekten der EU-Richtlinien. Allerdings wiesen die meisten dieser Problemfelder eine gewisse Mehrdimensionalität auf, insbesondere was die jeweilige Stakeholdergruppen anging – es gab jeweils mehrere, die jeweils unterschiedlich betroffen waren.
Ein kommerzielles LLM wurde eingesetzt, um mittels eines smarten Prompting mitsamt hinterlegter Ethik-Matrix (die tabellarische Version oben genannter Problemfelder) die gesammelten Dokumente zu sortieren und zentrale Aussagen in die jeweiligen Tabellenfelder auszugeben.
„Ich hätte da noch eine Frage …“ – wie Peter Falks Columbo musste auch der Ethik-Beauftragte in diesem schwierigen Fall agieren – die KI hatte toll sortiert, aber die wichtigen Fragen hatte sie nicht gestellt: Wie verhalten sich bestimmte Themen zueinander? Was macht das Unternehmen in diesem oder jenem Fall? Ist [abwegiger Gedanke einfügen] tatsächlich abwegig, oder könnte das ein Problem werden?
Solche Fragen konnten (und mussten) nach der Lektüre der von der KI sortierten Texte gestellt werden. Ein Fragebogen, der alle so abgeleiteten Fragen zusammenfasste, wurde der Assistenzkraft beim Auftraggeber übergeben – mitsamt der Notiz, welche Abteilungen um ihren Senf gebeten werden.
Die Antworten ließen nicht lange auf sich warten – mittlerweile war die Unaufhaltbarkeit der Deadline auch bei den eigentlich nicht so stressempfindlichen Abteilungen angekommen. Mithilfe der (teilweise stark technischen) Antworten aus den Perspektiven der Verantwortlichen im Unternehmen konnte der Ethik-Report nun verfasst und pünktlich eingereicht werden.
Das Resultat: Ein umfassender Report in einer gar nicht
so sehr umfassenden Zeitspanne.
Der Report des Ethik- und Compliance-Assessment hatte eine Tiefe, die ihm in der Kürze der Zeit nicht zugetraut wurde – doch genau dies war nötig, um ihm die notwendige Kredibilität zu verleihen.
Eine interessiert-verblüffte Beauftragte der EU-Kommission, ein zufriedenes – nun endlich in vollkommener Offiziosität EU-gefördertes Projektteam und ein schweißtriefender Ethik-Beauftragter konnten das Innovationsprojekt in die „Regelorganisation“ führen.
Das Projekt entwickelt sich weiter – ETHICS AS A SERVICE geht im Herbst 2024 mit weiteren Funktionalitäten und einem weiterenwickelten Prompting an den Start.
