©shutterstock/fizkes

Ich, Zukunft und Künstliche Intelligenz

Zusammenfassung

Die Veranstaltung „Ich, Zukunft und Künstliche Intelligenz“ fand am 8. November 2022 statt.

Sie war der fünfte Stopp der virtuellen BMBF Forschungstour „Miteinander durch Innovation“. Diesmal stand das Themenfeld Künstliche Intelligenz (KI) im Fokus: In interdisziplinären Austauschformaten diskutierten Forscherinnen und Forscher sowie interessierte Bürgerinnen und Bürger über das Potenzial und die Grenzen von KI. Dabei thematisierten sie auch mögliche und sinnvolle Anwendungsfelder sowie notwendige rechtliche, gesellschaftliche und ethische Rahmenbedingungen, die in Zukunft sicherstellen sollen, dass durch die Nutzung von KI ein Mehrwert für den Menschen geschaffen wird.

Die Aufzeichnungen zu den einzelnen Programmpunkten finden Sie in unserem Downloadbereich.

Videos

Keynote

Video abspielen

Diskussion

Video abspielen

Externe Beobachter

Video abspielen

BMBF Begrüßung

„Künstliche Intelligenz vereinfacht unseren Alltag – oft ohne dass wir sie bemerken. Und vielleicht macht genau das ihren Charme aus. Es ist jedoch wichtig sicherzustellen, dass die Technologien immer im Sinne des Menschen eingesetzt werden. Dieser Aspekt ist in der BMBF Forschungsförderung verankert. Daher muss der tatsächliche Mehrwert für den Menschen in allen KI-Förderprojekten stets erkennbar sein.“

Katrin Nostadt, Referat 616 „Interaktive Technologien für Gesundheit und Lebensqualität“ im Bundesministerium für Bildung und Forschung (BMBF)

Keynote

Dr. Aljoscha Burchardt startete seine Keynote mit der Definition von Intelligenz aus Meyers Enzyklopädischem Lexikon. Demnach seien viele Technologien, die heute mit Künstlicher Intelligenz assoziiert werden qua Definition gar nicht intelligent. Stattdessen seien sie das, was man in der Wissenschaft als „schwache KI“ bezeichnet – also Systeme, die der Mensch anlernt, damit sie ihn bei genau definierten Aufgaben unterstützen. Von einer „starken KI“, die wie der Mensch und andere Lebewesen über eine allgemeine Intelligenz verfügt und die man oft in Science-Fiction-Werken antrifft, sei dies jedoch weit entfernt. Auch sei es sehr umstritten, ob es je eine „starke KI“ geben werde.

Wie der Mensch KI-Systeme anlernen kann, erläuterte Dr. Burchardt sehr anschaulich: Er zeigte auf, dass dieses Anlernen stark an der menschlichen Art, sich Wissen anzueignen angelehnt sei. Dabei unterschied er zwischen implizitem und explizitem Wissen. Implizites Wissen sei etwa die Muttersprache, die man als Kind nicht theoretisch, sondern nach dem Prinzip „Learning by doing“ lerne. Laut Dr. Burchardt sei dies vergleichbar mit dem Anfüttern großer Datenmengen in ein KI System, das daraus Zusammenhänge erkennen könne. Auf der anderen Seite gebe es das explizite Wissen, das der Mensch beispielsweise beim Üben für die theoretische Führerscheinprüfung erlerne. Dieses Wissen sei regelbasiert und daher vergleichbar mit Algorithmen, die heute in vielen KI-Systemen verwendet werden.

Am Beispiel eines Forschungsprojekts aus dem medizinischen Bereich zeigte Dr. Burchardt auf, dass ein mit medizinischen Daten trainiertes KI-System Erkrankungen insgesamt besser vorhersagen konnte als menschliche Ärztinnen und Ärzte. Jedoch sei die KI in der Diagnose nicht fehlerfrei gewesen, was insofern bedenklich sei als dass sich auch erfahrene Medizinerinnen und Mediziner von vermeintlich plausiblen KI-Diagnosen haben verunsichern lassen. Dr. Burchardt betonte daher die Notwendigkeit, den Menschen bei der Entwicklung und dem Umgang mit KI-Systemen an die Hand zu nehmen: Der Mensch müsse lernen, Vorschläge von einem KI-System kritisch zu hinterfragen und sie stattdessen souverän in seine eigene Entscheidungsfindung miteinbeziehen. Denn letzten Endes sei der Mensch selbst für seine Entscheidungen verantwortlich.

Podiumsdiskussion "Auf ein Wort"

In der Podiumsdiskussion „Auf ein Wort“ beschäftigten sich die Teilnehmenden mit der weit verbreiteten Skepsis gegenüber Künstlicher Intelligenz, mit positiven Anwendungsbeispielen und noch vorhandenem Potenzial. Es diskutierten:

  • Sven Oswald (Diskussionsleitung)
  • Prof. Dr. Sebastian Stober, Universität Magdeburg
  • Prof. Dr. Karsten Weber, OTH Regensburg
  • Dr. med. Janis Reinelt, AICURA medical GmbH

Die Diskussion startete mit einer Betrachtung der allgemeinen Skepsis gegenüber Künstlicher Intelligenz, die in Teilen der Gesellschaft vorherrscht. Dr. Reinelt vermutete, dass diese kulturell bedingt sei. Gerade in Deutschland und in Europa zeige sich eine eher konservative Haltung gegenüber Neuerungen. Das führe in der Konsequenz leider auch dazu, dass Innovationen nicht umgesetzt würden, obwohl das Potenzial von KI in der Medizin enorm sei. Prof. Weber verstand die Skepsis auch aus einer historischen Perspektive. Er stellte fest, dass Computer in den Medien – vor allem in Filmen – schon immer negativ dargestellt wurden. Prof. Stober begrüßte einen gewissen Grad an Technikskepsis. Wie zuvor in der Keynote erläutert, fand auch er es wichtig, die Technologie und deren Nutzen stets kritisch zu hinterfragen.

Die Diskutanten waren sich einig, dass oft falsche Vorstellungen vom tatsächlichen Potenzial von KI bestehen. Letzteres müsse durch Forschende transparenter kommuniziert werden. Auf diese Weise ließen sich sowohl Vorurteile, als auch zu hohe Erwartungen an Künstliche Intelligenz verhindern. Prof. Weber betonte, dass falsche Versprechungen zum Potenzial von KI gerade in der Medizin schon oft zu Enttäuschungen geführt hätten, so dass bedauerlicherweise in wichtigen Bereichen nicht weitergeforscht wurde. Dr. Reinelt pflichtete dem bei und betonte, dass sich Deutschland bei der Digitalisierung medizinischer Daten weit zurückläge.

Auf die Frage, warum viele Menschen trotz grundsätzlicher Datenschutzbedenken KI dennoch im Alltag verwenden, antwortete Prof. Stober, dass der Mensch zwar oftmals eine Kosten-Nutzen-Kalkulation anstelle, dabei jedoch meist den Nutzen höher bewerte als den tatsächlichen Preis, den er dafür bezahlt. Das sei vor allem auf einen Mangel an Informationen zurückzuführen.

Die Diskutanten thematisierten jedoch auch viele positive Anwendungsfelder für KI, beispielsweise bei der Erkennung von Tumoren in der medizinischen Diagnostik. Dies sei ein sehr positives Beispiel, weil hier zum einen Leben gerettet werden könnten und sich zum anderen auch Kosten einsparen ließen, sagte Prof. Weber. Aber auch die neuen Möglichkeiten in der Simultanübersetzung würden den Mehrwert von KI für den Menschen unterstreichen: So hätten sich Übersetzungs-Apps gerade in der Kommunikation mit ukrainischen Flüchtlingen als sehr hilfreich erwiesen. Aber auch die KI-unterstützten E-Mail-Spamfilter leisteten wichtige Dienste. Und man dürfe nicht vergessen, dass eine KI-Spracherkennung es vielen Menschen überhaupt erst ermöglicht, bestimmte Systeme zu nutzen – beispielsweise älteren Menschen oder Kindern, ergänzte Prof. Stober.

Aus Sicht der Diskutanten schneidet Deutschland, was den Einsatz von KI betrifft, im internationalen Vergleich eher schlecht ab. So gebe es in Deutschland und auch in Europa leider keine KI-Zentren mit hoher Rechenleistung, die größere Vorhaben umsetzen könnten. Stattdessen sei die KI-Landschaft sehr fragmentiert. Großes Potenzial vermutete Dr. Reinelt jedoch im medizinischen Bereich: Deutschland habe ein sehr hohes Niveau in der Krankenversorgung erreicht. Wenn die hier erhobenen Daten in digitalisierter Form verfügbar gemacht würden, hätte Deutschland einen klaren Vorteil gegenüber anderen Ländern. Grundsätzlich müsse die Forschung in Deutschland jedoch schneller voranschreiten. Prof. Weber betonte, dass man jetzt die Chance habe zu definieren, wie KI Systeme in Zukunft funktionieren. Diese müsse man ergreifen. Ansonsten könne es dazu kommen, dass internationale Großunternehmen Tatsachen schaffen, die nicht unseren ethischen Grundsätzen entsprechen. Beispielsweise müsse verhindert werden, dass soziale Probleme durch den Einsatz von KI verstärkt würden. Hier wurde etwa eine Zweiklassengesellschaft in der medizinischen Versorgung genannt. Daher brauche es jetzt einen gesellschaftlichen Diskurs darüber, welche KI Anwendungen wir als Gesellschaft wollen und welche wir lieber nicht wollen.

8:30 – 9:00 Uhr Virtuelles Einfinden

9:00 – 9:15 Uhr Begrüßung BMBF

  • Katrin Nostadt, Referat 616 „Interaktive Technologien für Gesundheit
    und Lebensqualität“, Bundesministerium für Bildung und Forschung

9:15 – 9:50 Uhr Keynote „Ich, Zukunft und Künstliche Intelligenz“

  • Dr. Aljoscha Burchardt, Deutsches Forschungszentrum für Künstliche
    Intelligenz

9:50 – 10:00 Uhr Pause

10:00 – 10:45 Uhr AUF EIN WORT

  • Podiumsdiskussion zu Anwendungsmöglichkeiten von Künstlicher Intelli-
    genz und daraus resultierenden Effekten. Für welche Anwendungsfelder
    eignet sich die Technologie und wo liegen ihre Grenzen? Welche Ver-
    antwortung hat die Forschung in Bezug auf die Weiterentwicklung von
    Künstlicher Intelligenz?

10:45 – 11:00 Uhr Pause

11:00 – 12:00 Uhr Parallele Breakout-Sessions

  • Breakout 1: „Künstliche Intelligenz und medizinische Anwendungen“
  • Breakout 2: „Künstliche Intelligenz und Unterstützung im Alltag“
  • Breakout 3: „Künstliche Intelligenz und Mobilität“
  • Breakout 4: „Künstliche Intelligenz und Spracherkennung“

12:00 – 12:20 Uhr Pause

12:20 – 12:50 Uhr Flashback

  • Persönliches Resümee von Theresa Hannig (Autorin) und Johanna
    Benz (Illustratorin)

12:50 – 13:00 Uhr Abschluss

  • Katrin Nostadt, Referat 616 „Interaktive Technologien für Gesundheit
    und Lebensqualität“, Bundesministerium für Bildung und Forschung

Bundesministerium für Bildung und Forschung

© Privat

Katrin Nostadt

Katrin Nostadt ist seit 2005 Referentin im Bundesministerium für Bildung und Forschung, wo sie sich u.a. für die Zusammenarbeit mit China, für Klimaforschung in Afrika und Fachhochschulförderung und als deutsche Delegierte in verschiedenen europäischen Konsortien eingesetzt hat. Seit 2014 ist sie im Referat „Interaktive Technologien für Gesundheit und Lebensqualität“ tätig. Katrin Nostadt ist Magister der Germanistik und Anglistik mit Schwerpunkt auf interkulturelle Kommunikation und verfügt über einen MBA in European Asian Management. Sie lehrte Germanistik an der Sun Yat Sen Universität in Guangzhou, China, und engagierte sich als Leiterin des DAAD-Informationszentrums für deutsches Hochschulmarketing in Südchina.

Moderation

Sven Oswald
© Ricarda Spiegel

Sven Oswald

Sven Oswald gehört zur ersten Generation derer, die mit Computer im Kinderzimmer aufgewachsen sind. In seinem Fall war das ein Commodore C16. Als Journalist und Moderator beschäftigt er sich seit über 25 Jahren mit digitalen Themen. In verschiedenen öffentlich-rechtlichen Wissenschaftsformaten beschäftigte er sich bereits mit Robotik, KI und dem Zusammenspiel von Mensch und Maschine. Auch nach über 25 Jahren Radio-, TV- und Bühnenerfahrung ist es ihm jedes Mal eine Freude neue Aspekte und Fakten zu seinen Steckenpferdthemen kennenzulernen.

Keynote

Profilbild Aljoscha Burchardt DFKI
© privat

Dr. Aljoscha Burchardt

Dr. Aljoscha Burchardt ist Principal Researcher und stellvertretender Standortsprecher am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Berlin. Er ist Experte für Sprachtechnologie und Künstliche Intelligenz. Burchardt ist Senior Research Fellow des Weizenbaum-Institutes für die vernetzte Gesellschaft und stellvertretender Vorsitzender der Berliner Wissenschaftlichen Gesellschaft. Außerdem war er als Sachverständiger Mitglied der Enquete-Kommission “Künstliche Intelligenz” des Deutschen Bundestages.

Moderation Breakout-Session

Profilbild Dr. Falko Schmid
© Privat

Dr. Falko Schmid

Dr. Falko Schmid ist Informatiker und Experte für nutzerzentrierte Assistenzsysteme in verschiedenen Domänen. Er hat mehr als 17 Jahre Erfahrung in der akademischen und angewandten industriellen Forschung mit Arbeitsschwerpunkten in AR/VR/Wearables, Mensch-Maschine-Interaktion (HCI), Spatial Cognition und AI. Falko Schmid berät Ministerien, Träger und Unternehmen zu Fragen der Digitalisierung und der Rolle und Auswirkungen von Technologie in der Arbeitswelt.

Profilbild Oliver Amft
©Prof. Dr. Oliver Amft

Prof. Dr. Oliver Amft

Oliver Amft ist Professor für Intelligente Eingebettete Systeme an der Universität Freiburg und ein Institutsleiter der Hahn-Schickard Gesellschaft für angewandte Forschung. Amft hat Elektrotechnik und Informationstechnik studiert und hatte zwischen 2000 und 2004 F&E Fach- und Leitungspositionen bei ABB inne, 2008 promovierte er an der ETH Zürich mit Auszeichnung in den Bereichen Wearable Computing, Mustererkennung und Biomedizin. Danach folgten Positionen als Assistant Professor im Bereich Signalverarbeitung und Maschinelles Lernen an der TU Eindhoven bis 2013, erster Leiter des W3-Lehrstuhls für Sensorik an der Uni Passau bis 2017, sowie erster Leiter des W3-Lehrstuhls für Digital Health an der Friedrich Alexander Universität Erlangen-Nürnberg bis Mitte 2022. Amft ist Mitautor von über 200 wissenschaftlichen Veröffentlichungen und hat verschiedene wissenschaftliche Auszeichnungen gewonnen. Er ist in Gremien führender, internationaler Zeitschriften für Biomedizinische Informatik und ubiquitäre Computersysteme tätig und engagiert sich für Startups im Bereich der datenbasierten Medizintechnologie, Künstlichen Intelligenz und Digital Health.

Profilbild Dr. Julia Hoxha ZANA Technologies GmbH
© privat

Dr. Julia Hoxha

Dr. Julia Hoxha ist Mitgründerin und CEO von Zana, einem deutschen Anbieter von Konversationellen – und Stimm-KI-Lösungen für das Gesundheitswesen. Sie promovierte am Karlsruher Institut für Technologie und arbeitete als Postdoktorandin an der Columbia University im Bereich Medizinische Informatik. Ihre Reise als Tech-Unternehmerin begann im Alter von 21 Jahren, als sie ihr erstes Startup gründete, gefolgt von weiteren unternehmerischen Initiativen. Ihr Ziel ist es, Innovationen im Gesundheitswesen durch Mensch-Computer-Interaktionstechnologie voranzutreiben. Sie ist Sprecherin der Arbeitsgruppe „Health“ am KI Bundesverband. Als KI-Expertin unterstützt sie als Beraterin und Mentorin Startup-Acceleratoren, Behörden und Forschungseinrichtungen.

Profilbild Dr. Ulrich Canzler
© privat

Dr. Ulrich Canzler gründete parallel zu seiner Promotion an der RWTH-Aachen auf dem Gebiet der „Nicht-intrusiven Mimikanalyse“ 2005 die Firma CanControls. CanControls erforscht und realisiert Lösungen mittels videobasierter Szenenanalyse im Bereich innovativer Mensch-Maschine-Schnittstellen. Insbesondere im Automobilbereich wurden bereits Algorithmen zur Insassenzustandserkennung entwickelt und in den Markt eingeführt. Hierzu gehören videobasierte Mimik-, Körperposen- und Gestenerkennung sowie die Messung von Vitalparametern, insbesondere der Herz- und Atemfrequenz. Physio-psychologische Verhalten wie Hypovigilanz, akute Erkrankungen, Reisekrankheit und visuelle/kognitive Ablenkung können durch eine Kamera erfasst werden. Insbesondere Ansätze für Diagnose und Therapie im Bereich Depression und Bipolare Störungen stehen ebenfalls im Fokus des Geschäftsmodells.

Podium "Auf ein Wort"

Profilbild Prof. Dr. Karsten Weber
©Michael Hitzek

Prof. Dr. Karsten Weber

Prof. Dr. phil. habil. Karsten Weber ist Professur für Technikfolgenabschätzung für KI-gestützte Mobilität an der OTH Regensburg. Zudem ist er Direktor des Regensburg Center of Health Sciences and Technology, Ko-Leiter des Instituts für Sozialforschung und Technikfolgenabschätzung und hält eine Honorarprofessur für Kultur und Technik an der BTU Cottbus-Senftenberg. Prof. Weber hat Philosophie, Informatik und Soziologie an der Universität Karlsruhe (TH) studiert, dort in Philosophie promoviert und an der EUV Frankfurt (Oder) in Philosophie habilitiert. Er arbeitet über ethische und soziale Aspekte des Einsatzes neuer Informationstechnologien.

Profilbild Dr. med. Janis Reinelt
© Privat

Dr. med. Janis Reinelt

Dr. Reinelt leitet das Business-Development bei AICURA medical. Bevor er 2018 zu AICURA kam, promovierte er am Max-Planck-Institut für Kognitions- und Neurowissenschaften und arbeitete nebenberuflich als Arzt in der Psychiatrie. Dabei erlebte er den starken Kontrast zwischen innovativer datengestützter Forschung einerseits und veralteter Technologie in der klinischen Praxis andererseits. Diese Erfahrung motiviert ihn, Innovation schneller in den klinischen Alltag zu bringen. In den vom BMBF geförderten Verbundvorhaben INALO.ai und KIPos fokussiert sich das Team von AICURA genau auf diese Lücke: Gemeinsam mit akademischen Partnern erforscht AICURA, wie der Einsatz von KI die Versorgung von Patientinnen und Patienten auf der Intensivstation verbessern kann.

Profilbild Prof. Dr. Sebastian Stober
© Jana Dünhaupt

Prof. Dr. Sebastian Stober

Sebastian Stober ist Professor für Künstliche Intelligenz an der Otto-von-Guericke-Universität Magdeburg. Er studierte bis 2005 in Magdeburg Informatik mit Schwerpunkt Intelligente Systeme und wurde 2011 zum Thema Adaptive Methoden zur nutzerzentrierten Organisation von Musiksammlungen promoviert. Von 2013 bis 2015 war er als Postdoc am Brain and Mind Institute in London, Ontario, wo er maschinelle Lernverfahren zur Untersuchung der Gehirnaktivität während der Musikwahrnehmung entwickelte. Danach war er Nachwuchsgruppenleiter für Maschinelles Lernen in den Kognitionswissenschaften an der Universität Potsdam, bevor er 2018 nach Magdeburg zurückkehrte. Mit seiner aktuellen Forschung verbindet er die Themen künstliche Intelligenz und maschinelles Lernen mit den Neurowissenschaften und entwickelt neue Ansätze zum Lernen mit limitierten Ressourcen und zur Erklärbarkeit von Modellen.

Graphic Recording

Portraitbild Johanna Benz Graphic Recording
© Privat

Johanna Benz

Johanna Benz arbeitet als graphic recording artist und übersetzt Vorträge und Gespräche simultan in Bilder. Zusammen mit Tiziana Beck hat sie graphicrecording.cool vor 10 Jahren gegründet und entwickelt individuelle grafische Aufzeichnungsformate für Konferenzen, Workshops, Symposien oder performative Events. Durch den Live-Zeichnungsprozess illustriert und kommentiert sie sowohl Fakten als auch subjektive Bilder mit dem Ziel, neue Verbindungen zwischen visueller und angewandter Kunst, Wissenschaft, Forschung und Bildung herzustellen. Johanna Benz lebt mit ihrer Familie in Leipzig.

Externe Beobachter

Profilfoto Theresa Hannig
© Privat

Theresa Hannig

Theresa Hannig studierte Politikwissenschaft und arbeitete als Softwareentwicklerin und Lichtdesignerin bevor sie sich hauptberuflich dem Schreiben zuwandte. Ihre Geschichten thematisieren die Wechselwirkungen zwischen technologischem Fortschritt und gesellschaftlichem Wandel. Im Spannungsfeld zwischen bedrohlichen und wünschenswerten Entwicklungen stellt sie die Frage: Wie wollen wir in Zukunft leben?