Neural Decoding
26.12.2024: Kritische Anmerkungen zum Gedankenlesen mit Hilfe Künstlicher Intelligenz
 |
|
|
Forum Wissenschaft 4/2024; Foto: PeopleImages.com – Yuri A / shutterstock.com |
Diktaturen und Geheimdienste, die mithilfe Künstlicher Intelligenz fremde Gedanken auslesen können - eine realistische Zukunftsvision oder absurde Horrorgeschichte? Wolfgang Kromer kritisiert fantasiereiches Clickbaiting beim Nachrichtenmagazin Der Spiegel.
Der Spiegel (Heft 23/2024) gibt zum Thema Gedankenlesen mittels künstlicher Intelligenz (KI) ein fantasiereiches Interview mit dem "Neuroethiker" Prof. Dr. Marcello Ienca zum Besten.1 Wohlwollend interviewt haben ihn die Spiegel-Redakteure Johann Grolle und Claus Hecking. Zentrale, aber erstaunlich unkritische Aussagen machen sprachlos. Ein Beispiel:
FRAGE: "Wird man auch unsere Absichten anhand des Hirnscans ablesen können?" ANTWORT: "Gut möglich. Träume wird man wohl ebenfalls entschlüsseln können" und "Diktaturen könnten Gehirne von Gefangenen oder Oppositionellen hacken, deren Gedanken extrahieren […] Ich schätze: Über Gehirnmanipulation wird das in ein paar Jahrzehnten technisch möglich sein".
Nur soweit Marcello Iencas Zukunftsvision. Während spätestens hier kritische Nachfragen dringend nötig gewesen wären, blieben diese Sätze unhinterfragt stehen. Ein absurdes Szenario, wenn man sich die experimentellen Grundlagen ansieht. Z.B. die Publikation von Jerry Tang et al.: "Semantic reconstruction of continuous language from non-invasive brain recordings"2. Die Autoren schreiben:
"To compare word sequences to a subject’s brain responses, we trained an encoding model that predicts how that subject’s brain responds to phrases in natural language. This model can score the likelihood [!] that the subject is hearing or imagining a candidate [!] sequence by measuring how well the recorded brain responses match the predicted [!] brain responses." [Ausrufezeichen eingefügt]
Stark vereinfacht ausgedrückt: Mittels hochauflösender fMRT (funktionelle Magnetresonanztomografie) werden Hirnaktivitäten gemessen und in stundenlangen Sitzungen bekannten [!] Bewusstseinsinhalten zugeordnet. Dann wird das Spiel im Prinzip umgedreht: Der Proband stellt sich z.B. den jeweiligen Inhalt vor. Dieser wird dann anhand des fMRT-Signals identifiziert, allerdings nur mit einer gewissen Wahrscheinlichkeit! Mit dem "Auslesen" beliebiger, unbekannter Bewusstseinsinhalte bei Menschen, mit denen der Decoder vorher nicht trainiert wurde, hat dies nichts zu tun. Ohne kritische Einordnung wird das aber von fachlich naiven Lesern in eben dieser Weise missverstanden. Marcello Ienca selbst führt das Publikum durch seine fantasiereiche Zukunftsvision auf diesen Holzweg. Schließlich wird er vom Spiegel als "Fachmann" vorgeführt, also muss das in der Vorstellung des Lesers ja wohl auch stimmen!
Bewusstseinsinhalte wie spontane Einfälle, Absichten, Träume, höchst intime Gedanken und Erinnerungen sind im individuellen Kontext von Person zu Person sehr differenziert und extrem komplex im Gehirn repräsentiert. fMRT-Signale oder EEG-Potenziale sind trotz hochauflösender Technik relativ unscharfe Summeneffekte und sie sind vor allem in ihrer Bedeutung nicht von einer Person auf die andere einfach übertragbar.
Tang et al. sagen hierzu:
"An important ethical consideration for semantic decoding is its potential to compromise mental privacy. To test if decoders can be trained without a person’s cooperation, we attempted to decode perceived speech from each subject using decoders trained on data from other subjects. For this analysis, we collected data from seven subjects as they listened to five hours of narrative stories […] Decoders trained on cross-subject data performed barely above chance, and significantly worse than decoders trained on within-subject data. This suggests that subject cooperation remains necessary for decoder training".
Dieser ganz wesentliche Punkt wurde von Ienca und seinen Interviewern einfach unter den Tisch gekehrt. Was also machen wir nach dieser relativ klaren Botschaft mit den Milliarden Menschen, für deren unüberschaubar vielfältige Bewusstseinsinhalte interessierte Despoten keine jeweils individuell trainierten Decoder zur Verfügung haben, um sie "auszulesen"? Ich denke, dieser Nobelpreis bleibt (Gott sei Dank!) in der Schatulle! Der "Neuroethiker" Ienca muss sich da keine allzu großen Sorgen machen!
Aber selbst wenn sich wider Erwarten eines Tages aufgrund verbesserter Technik einige spezifische Signale im "Hirnscan" als interindividuell stabil und interpretierbar herausstellen sollten, kann man sich die Fehlerquote solcher Gedankenleserei unschwer vorstellen. Hierfür jedenfalls bedarf es weniger Fantasie als für die Zukunftsvision von Marcello Ienca!
Doch was stört all das den Spiegel? Eine Horrorgeschichte verkauft sich halt besser! Leider ist das keine ganz neue Erfahrung.3
Anmerkungen
1) J. Grolle und C. Hecking 2024: "Die Technologie kann biblische Wunder wahr machen. Spiegel-Gespräch mit Neuroethiker Marcello Ienca", in: Der Spiegel 23: 88-91.
2) J. Tang, A. LeBel, S. Jain and A. G. Huth 2023: "Semantic reconstruction of continuous language from non-invasive brain recordings", in: Nature Neuroscience 26: 858-866.
3) Wolfgang Kromer 2018: "Verirrungen in der Bioethik", in: Forum Wissenschaft 3: 49-50.
Prof. Dr. med. Wolfgang Kromer, Konstanz