Vertrauenswürdige KI: KI-Transparenz und Risikomanagement für Unternehmen

Zu Gast in dieser Folge ist Philipp Adamidis, CEO & Gründer von QuantPi. Quant Pi hat kürzlich 2,5 Millionen Euro Förderung von dem European Innovation Council der Europäischen Union erhalten. Das Handelsblatt schrieb über QuantiPi: „Dieses Start-up erklärt Firmen ihre eigenen KI-Tools“. QuantPi arbeitet daran, künstliche Intelligenz transparent und vertrauenswürdig zu machen. Das Start-up ist Pionier auf dem Gebiet der Trust AI und hat eine Risikomanagement-Plattform für KI-Tools aller Art entwickelt, mit der sich rechtliche, wirtschaftliche und ethische Risiken identifizieren und beseitigen lassen. In einem weiteren Artikel zitiert das Handelsblatt Philipp mit: „Wir sind wie ein Anti-Virus-System für KI“.

„Auf Dauer werden alle Unternehmen durch die KI-Transformation gehen. Und die, die das recht früh machen und das mit einem System untermauern, das am Ende des Tages eine sichere KI, eine effiziente KI-Transformation schafft, die werden on Top of the Industry herauskommen.“

Bereits Ende des Jahres 2023 gab der Digitalverband bitkom in einer Pressemeldung heraus, dass die Ausgaben für künstliche Intelligenz 2023 um 32%, auf 6,3 Milliarden Euro, steigen und für 2024 ein weiteres Wachstum um 30% erwartet wird. Der Markt für KI-Tools ist also riesig. Wie aber stellen Unternehmen fest, ob ihre KI-Tools gesetzeskonform arbeiten? Wie ermitteln sie, welche Risiken mit der Nutzung von verschiedenen KI-Tools verbunden sein können? Und wo geht die Reise mit KI hin? In diesem aufschlussreichen und inspirierenden Gespräch gibt der Serial-Entrepreneur Philipp uns spannende Einblicke in die Blackbox KI, was es braucht, um sie richtig einzuschätzen und zu messen und welche Skills im Umgang mit dieser neuen Technologie benötigt werden. Darüber hinaus erklärt er, wie man dazu kommt, den Trend KI Jahre vor ChatGPT zu erspüren.

Von den wichtigen Möglichkeiten, KI sicherer zu machen über eine Welt, in der unsere Gesellschaft, also alle Menschen, mit großer Sicherheit sagen können, wie solche Systeme funktionieren und selbstbestimmt und positiv mit diesen Systemen zusammenleben können bis hin zur echten messbaren Transparenz der KI-Tools im Unternehmen. Eines bleibt sicher: Es braucht eines lernenden Tools, um die echte KI-Transparenz dauerhaft für Unternehmen zu gewährleiten.

Ach ja, wie kommt man von einem Medizin-Studium über Business- und Informationsmanagement zu einem vielversprechenden KI-Startup, wie bereiten einen YouTube Videos zu Survival Trainings und Drechselarbeiten auf die Optimierung von KI-Portfolios vor und was hat Angeln mit Trust AI zu tun? Einfach mal reinhören 🙂