Die Ansteckung der Angst
Ein schlechter Scherz
Spät in einer Nacht meines ersten Studienjahres, als ich gerade herausgefunden hatte, dass Informatik meine Berufung ist, saß ich hinten im großen Informatik-Labor und unterhielt mich mit einigen Kommilitonen. Wir schmähten überheblich das mangelnde technische Verständnis der breiten Bevölkerung – mit jener Arroganz und Hybris, zu der nur Jugend und Frühreife fähig sind. Irgendwo in dieser Diskussion wurde eine schreckliche Idee geboren: Was wäre, wenn wir nebenan in das allgemeine Computerlabor gingen und den Geisteswissenschaftlern dort erzählten, dass ein Computervirus ihre Maschinen befalle? Würden sie es glauben?
Zu meiner ewigen Reue handelten wir nach diesem hässlichen Impuls: Wir gingen nebenan in ein vollbesetztes Labor von Studenten, die an ihren Seminararbeiten arbeiteten, und verkündeten – mit gespielter Panik in der Stimme – lautstark, dass ein Virus aus dem Informatik-Labor entkommen sei und sie alle ihre Disketten auswerfen müssten, um seine Ausbreitung zu verhindern.
Was dann geschah, war das reinste Chaos – das technologische Äquivalent zu einem »Feuer«-Ruf in einem vollen Theater. Die Leute gerieten in Panik: Sie warfen nicht nur Disketten aus, sondern schalteten Rechner aus, rissen Kabel aus bereits ausgeschalteten Maschinen, schrien, rannten aus dem Raum. Wir erkannten sofort, dass wir etwas Furchtbares getan hatten, aber wir konnten das Feuer, das wir gelegt hatten, nicht mehr eindämmen. Wir versuchten zu erklären, es sei »ein Scherz« gewesen; einige reagierten (zu Recht!) mit empörter Wut (was stimmte nicht mit uns, dass wir so etwas tun würden?!), während andere uns schlicht nicht glaubten – einmal eingenistet, ließ sich die Angst nicht mehr vertreiben.
Die Folgen
Die Nachwirkungen sind verschwommen – aber es war schlimm. Es war die Woche vor den Abschlussprüfungen, und Leute, die ihre Computer ausgeschaltet hatten, hatten Arbeitsfortschritte verloren. Sie waren wütend, und wir steckten in großen Schwierigkeiten.
Am nächsten Morgen saßen wir im Büro des Leiters der Einrichtung (eine berüchtigt imposante Erscheinung), der uns streng belehrte, während wir auf unsere Füße starrten. Er ließ uns jeweils Entschuldigungsschreiben verfassen (leicht gemacht, denn meine Scham war aufrichtig), und zwar zwei Exemplare: eines für diejenigen, denen wir Unrecht getan hatten, das andere für seine Schreibtischschublade. Er machte uns unmissverständlich klar: Sollten wir uns jemals wieder irgendetwas in dieser Art zuschulden kommen lassen, würden wir uns eine andere Universität suchen müssen – und wir versicherten ihm, dass wir unsere Lektion gelernt hatten. (Als ich vier Jahre später meinen Abschluss machte, nahm er sich die Zeit, mir den Brief persönlich zurückzugeben – und ich bin ihm bis heute dankbar für die Ernsthaftigkeit und das Einfühlungsvermögen, mit dem er die ganze Sache behandelt hat.)
Die Ansteckung der Angst heute
Ich hätte diesen ganzen beschämenden Vorfall mit ins Grab nehmen können (und vielleicht auch sollen?), aber ich fühle mich gezwungen, ihn jetzt zu gestehen, weil ich noch nie erlebt habe, dass Angst so unverantwortlich von angeblichen Technologen gesät wurde wie derzeit im Hinblick auf KI und die Bedrohung der menschlichen Auslöschung (!). Erstaunlicherweise ist das keine Übertreibung: Diese Woche behauptete Jacob Coxon, ein ehemaliger Anthropic-Mitarbeiter – und Evan Hubinger, Leiter der Alignment-Wissenschaft bei Anthropic, stimmte zu –, dass die Wahrscheinlichkeit, dass KI »alle Menschen töten« werde, bei »>10 % im nächsten Jahrzehnt« liege (!!).
Die Behauptung ist also nicht etwa, dass KI Tausende, Millionen oder sogar Milliarden Menschen töten könnte (Behauptungen, die für sich genommen bereits außergewöhnlich wären!), sondern dass eine Wahrscheinlichkeit von über zehn Prozent besteht, dass KI alle Menschen töten wird. Das bedeutet: Wenn Sie ein Neugeborenes haben, behaupten diese Leute, dass die Wahrscheinlichkeit, dass Ihr Kind vor dem Ende der Grundschulzeit durch KI umkommt, bei über zehn Prozent liegt.
Diese grauenhaften Behauptungen zielen mitten ins Herz. Angesichts der offensichtlichen Bedeutung von KI ist es nicht verwunderlich, dass sie den Weg in den Mainstream gefunden haben, und die Leute stellen die naheliegende Frage: Wie sollte das geschehen? Die Antworten beruhen stets auf vagen Extrapolationen in die Zukunft; Jacob Coxon führt beispielsweise »Hacking kritischer Infrastruktur« und »extinktionsniveaufähige Biowaffen« an, ohne weitere Ausführungen. Doch Coxon ist weder Experte für kritische Infrastruktur noch für Biowaffen – und schon gar nicht für Auslöschung.
Wofür der 27-jährige Coxon allerdings Experte ist – wenn auch unfreiwillig –, das ist die Ansteckung der Angst. Wir können nicht erwarten, dass die Öffentlichkeit die technischen Feinheiten aller Technologien versteht (das war der Irrtum meines 18-jährigen Ichs!): Technologie ist zu breit, zu tief und zu zentral für unser aller Leben, als dass wir von jedem erwarten könnten, alles zu verstehen; wir müssen – auf einer gewissen Ebene – den Fachexperten vertrauen. Wenn diese Fachexperten Angst säen, dann ist es die Angst, die Wurzeln schlägt und sich viel leichter verbreitet als jegliche Beweise, die ihr folgen mögen. (Wie Jonathan Swift vor über drei Jahrhunderten treffend bemerkte: »Die Lüge fliegt, und die Wahrheit humpelt hinterher.«) In dieser Hinsicht ist Coxon eher Vektor als Indexfall: Es ist unbestreitbar, dass die Ängste vor Extinktionsrisiken weit verbreitet sind, und Coxon selbst hegt diese Ängste wahrscheinlich, weil er sie von anderen gehört hat. Wenn die Angst erst einmal Fuß gefasst hat, wird die schiere Anzahl verängstigter Experten zu einer Art Beweis für sich selbst, und abweichende Stimmen werden vom Lärm eines vermeintlichen Konsenses übertönt.
Ein Gegenentwurf
Im vollen Bewusstsein, dass die Angst bereits gut etabliert ist, möchte ich dennoch eine Widerlegung anbieten – wenn auch aus meinem eigenen (engen) Fachgebiet: dem Bau von Computern. Wie ich bereits in meinem Monktoberfest-Vortrag 2023, »Intelligence is not Enough«, dargelegt habe, sind Ingenieursleistungen nicht allein Akte der Intelligenz. Sie erfordern nicht nur die menschlichen Aspekte unseres Charakters, sondern auch unser Handeln (und Nachdenken) in der physischen Welt. Diejenigen, die unbeirrbar in ihrer Angst verharren, neigen dazu, diese Aspekte zu übergehen (»Roboter werden das schon erledigen!«), aber damit ignorieren sie die physische Realität, dass Roboter dies heute nicht können – und es auch nicht in einem Zeitrahmen zu tun scheinen, der mit diesen Extinktionsängsten vereinbar wäre.
Allgemeiner gesagt: In dem Maße, wie digitale Systeme Handlungsfähigkeit in der physischen Welt besitzen, ist es eine Handlungsfähigkeit, die wir – wir Menschen mit Armen und Beinen und Gehirnen und Eltern und Kindern – ihnen zugestehen: KI läuft auf physischen Systemen, die mit menschlicher Verantwortlichkeit und Kontrolle entwickelt wurden. Intelligenz enthebt ein System nicht den Realitäten der physischen Welt!
Für diejenigen, die – wie Coxon – von unbeirrbarer Angst ergriffen sind, wird dies wenig Trost spenden. Doch für diejenigen, die diese Ängste zum ersten Mal hören: Wisst, dass eure Ungläubigkeit berechtigt ist. Wir sollten die Weisheit des verstorbenen Carl Sagan beherzigen, dass außergewöhnliche Behauptungen außergewöhnliche Beweise erfordern: Die Behauptungen von Coxon und seinesgleichen sind die außergewöhnlichsten, die ein Technologe aufstellen kann, und wir müssen Beweise verlangen, die diesen Behauptungen angemessen sind.
Fazit
Allerdings sollten wir nicht erwarten, dass die Öffentlichkeit LLMs, kritische Infrastruktur, Biowaffen, Extinktionsbiologie usw. versteht – diese Last muss bei denen liegen, die die Behauptungen aufstellen. Die Lektion, die ich (beschämenderweise) vor Jahrzehnten gelernt habe, ist: Fachexperten genießen kraft ihrer Expertise implizit das Vertrauen der Öffentlichkeit – und wir dürfen dieses Vertrauen nicht missbrauchen. Es ist unsere Pflicht, zurückhaltend mit unseren Behauptungen umzugehen – und zwar in höchstem Maße, wenn wir Alarm schlagen.
Also an diejenigen in jenem spätabendlichen Labor vor über drei Jahrzehnten: Es tut mir leid. Ihr hattet damals nichts zu fürchten – und ihr habt (zumindest was das Extinktionsrisiko betrifft!) auch heute nichts zu fürchten.
Original in Englisch:
https://bcantrill.dtrace.org/2026/09/13/the-contagion-of-fear/#:~:text=once%20the%20fear%20had%20taken%20root%2C%20we%20couldn%E2%80%99t%20eradicate%20it
Write a comment