Kürzlich bewertete der Journalist Kevin Roose den Chatbot für künstliche Intelligenz von Microsoft Bing namens Sydney, als dieser ihm im Gespräch sagte: „Ich möchte dich einfach lieben und von dir geliebt werden.“
So amüsant und belanglos es auch scheinen mag, diese Episode sollte als Weckruf für die KI-Community dienen. Es muss jetzt anfangen, über die Sicherheit der generativen künstlichen Intelligenz nachzudenken – die Technologie hinter Sydney, OpenAIs ChatGPT und Googles Bard – und die entsprechenden Leitplanken, die aufgestellt werden müssen, bevor größere Probleme auftreten.
Ich biete diesen Rat aus persönlicher Erfahrung an. Vor zwei Jahrzehnten war ich ein hochrangiger Beamter im Weißen Haus von George W. Bush, als eine andere weltverändernde Technologie – genetische Manipulation – unsere Zukunft veränderte. Wie die generative KI war diese neue Biotechnologie ein einmaliger Fortschritt, der sowohl Aufregung als auch Angst auslöste. In den Jahren seitdem hat die Biotechnologie viele Vorteile gebracht, aber sie hat die Welt auch großen Risiken ausgesetzt – teilweise aufgrund unzureichender Aufsicht.
Alle Innovationen haben das Potenzial, Nutzen zu bringen und Schaden zu verursachen – was als „Dual-Use“-Technologie bezeichnet wird. Für manche Menschen ist die generative künstliche Intelligenz ein spannender und entscheidender Moment in der Technologie mit weitreichenden Auswirkungen. Für andere deutet es auf eine Zukunft gefährlicher, auf Silizium basierender, empfindungsfähiger Lebensformen hin, die Entscheidungen über unser Leben treffen, die wir nicht kontrollieren oder stoppen können.
Vor mehr als 20 Jahren war die Welt in ähnlicher Weise gespalten über die doppelte Verwendung gefährlicher biologischer Wirkstoffe, insbesondere solcher, die gentechnisch verändert wurden. Die Anreize, mit der genetischen Manipulation voranzukommen, überwogen bei weitem die Anreize, vorsichtig und vorsichtig vorzugehen. Diese Anreize umfassten nicht nur die Schaffung von wirtschaftlich und sozial wertvollen neuen Impfstoffen und Arzneimitteln, sondern auch Fortschritte in der Grundlagenforschung und nicht unwesentlich Karrieren von akademischen Wissenschaftlern.
1996 erließ der US-Kongress Regeln zur Kontrolle des Zugangs zu und der Übertragung einiger ausgewählter Infektionserreger und Toxine. Diese Regeln gingen nicht weit genug. Nach Anthrax-Angriffen in den USA im Jahr 2001, die zu 5 Todesfällen führten, verabschiedete der Kongress ein Gesetz, um die Aufsicht über eine bestimmte Gruppe ausgewählter Wirkstoffe und Toxine zu verstärken, die das Potenzial hatten, eine ernsthafte Bedrohung für die öffentliche Gesundheit oder die Landwirtschaft darzustellen. Diese Vorschriften waren leider nicht ausreichend.
Im Jahr 2003 empfahl ein Bericht des National Research Council („Biotechnology Research in an Age of Terrorism“) Änderungen der Forschungsaufsichtsregeln, -vorschriften und bewährten Verfahren, um die Gefahr der Verwendung von Genmanipulation für böswillige Zwecke zu verringern.
Als Reaktion darauf schrieb ich die Charta, mit der das National Science Advisory Board for Biosecurity (NSABB) geschaffen wurde. Seit 2004 versucht NSABB (ich bleibe aktives Mitglied) die Forschungsempfehlungen im NRC-Bericht voranzubringen. Es hat die Aufsicht über potenziell gefährliche biologische Forschung verstärkt und gleichzeitig Schutz vor drakonischen Vorschriften geschaffen, die Innovationen ersticken können. Die Umsetzung war jedoch problematisch und langsam, teilweise aufgrund von Einwänden vieler Wissenschaftler, die sich darüber beschwerten, dass eine übermäßige und bürokratische Aufsicht die kritische Forschung einschränke.
Seitdem sind Kontroversen über die Sicherheit einiger biotechnologischer Forschungen ausgebrochen. Am bemerkenswertesten war eine Reihe von „Gain-of-Function“-Experimenten zum Influenzavirus H5N1 (Vogelgrippe), bei denen Wissenschaftler das Virus besser auf Säugetiere übertragbar machten, um zu lernen, wie die Virusübertragung blockiert werden kann. Wir in der Biosicherheits-Community waren alarmiert über die Risiken, die Wissenschaftler bei diesen Experimenten eingingen – darunter das Risiko, dass ein Laborunfall eine Pandemie auslösen könnte. Diese Probleme veranlassten besorgte Wissenschaftler, der US-Regierung zu empfehlen, eine dreijährige Finanzierungspause für eine Liste potenziell gefährlicher Gain-of-Function-Studien einzuführen, während der die Regierung neue und aggressivere Aufsichtsmechanismen für die Forschung einführen würde. Leider war die verstärkte Überwachung auf eine kleine Anzahl bekannter Atemwegsviren beschränkt, die möglicherweise eine Pandemie auslösen könnten.
Das Risiko, versehentlich eine Pandemie auszulösen, muss den meisten Amerikanern damals ziemlich abstrakt erschienen sein. Nicht mehr. Heute zeigen Umfragen, dass viele Menschen glauben, dass eine Labormanipulation von Coronaviren zur Entstehung von SARS-CoV-2 geführt hat, dem Virus, das COVD-19 verursacht.
Auch der Ursprung von Covid-19 ist unter Wissenschaftlern und Politikern umstritten. Eine Fraktion behauptet lautstark, das pandemische Coronavirus sei das Ergebnis seiner absichtlichen Genmanipulation in einem Labor in Wuhan, China. Während einige aus dem Labor-Ursprungs-Lager behaupten, das Virus sei absichtlich verändert worden, um es gefährlicher zu machen, glauben die meisten, dass ein Virus, das durch riskante Forschung ohne angemessene Aufsicht geschaffen wurde, unbeabsichtigt freigesetzt wurde. Das gegnerische Lager besteht ebenso vehement darauf, dass COVID-19 aus natürlichen Mutationen eines Fledermausvirus resultierte, das auf ein wildes (noch unbekanntes) Tier und dann auf menschliche Kunden auf einem Markt in Wuhan, China, übertragen wurde.
Kam Covid aus einem Labor oder einem Lebensmittelmarkt? Diese Frage bekomme ich jeden Tag gestellt. Meine Antwort? Wir wissen es ehrlich gesagt noch nicht. Was wir wissen, ist, dass die Wissenschaft weit genug gekommen ist, dass das Virus aus einer genetischen Manipulation des Coronavirus-Gens stammen könnte, unabhängig davon, ob dies in diesem Fall tatsächlich der Fall war oder nicht.
Diese Bedrohung besteht zum Teil, weil die derzeitigen Aufsichtsmechanismen für die Erforschung potenziell gefährlicher Krankheitserreger nicht ausreichen, um uns zu versichern, dass wir vor absichtlicher oder unbeabsichtigter genetischer Manipulation von Organismen mit Pandemiepotenzial sicher sind. Trotz guter Absichten ist die US-Regierung in den letzten 20 Jahren stückweise an die Aufsicht herangegangen und hat es versäumt, Forschern und Institutionen frühzeitig, konsequent und zeitnah Leitlinien zur Bewertung und Minderung der mit dieser Art von Forschung verbundenen Risiken bereitzustellen. Infolgedessen führten staatliche, kommerzielle und akademische Institutionen eine variable und inkonsistente Forschungsüberprüfung und -aufsicht ein. Und diese Aufsicht konzentrierte sich hauptsächlich auf Milzbrand, Lassa-Fieber, Pocken, Vogelgrippe und andere ausgewählte Erreger, die von der Regierung auf einer Liste gefährlicher potenzieller Krankheitserreger aufgeführt wurden.
Dieser enge Fokus reicht nicht aus, um uns vor einer breiteren, potenziell riskanten biologischen Forschung zu schützen. Bedrohungen können, wie wir alle gut wissen, auch von Mutationen in viel häufiger vorkommenden Bakterien und Viren wie dem Coronavirus ausgehen.
Die NSABB hat der Biden-Administration kürzlich Empfehlungen vorgelegt, um die Aufsicht über Genforschung, die sowohl zum Guten als auch zum Schaden genutzt werden könnte, erheblich zu verstärken – entweder durch Laborunfälle oder vorsätzlichen Missbrauch. Diese Empfehlungen würden die Forschungsüberprüfung und -aufsicht erweitern, um Experimente mit jedem Wirkstoff einzuschließen, der wahrscheinlich zu einer unkontrollierbaren Ausbreitung oder zu einer erheblichen Morbidität oder Mortalität führen kann und darüber hinaus wahrscheinlich eine ernsthafte Bedrohung für die öffentliche Gesundheit oder die nationale Sicherheit darstellt. Mehrere Kongressausschüsse sind auch aktiv besorgt darüber, dass die Biotech-Gemeinschaft bei der Berücksichtigung der Sicherheit bei der Durchführung besorgniserregender genetischer Forschung besser vorgehen muss. Aber wir spielen aufholen.
Die Gemeinschaft von KI-Forschern, Unternehmern und Regulierungsbehörden täte gut daran, die Lehren aus der Biotechnologie zu beherzigen. Meine Bitte an sie ist, jetzt schon an die Sicherheit zu denken. Warten Sie nicht auf das erste große Problem von Fehlverhalten oder unbeabsichtigten Konsequenzen. Kommen Sie voran, indem Sie eine koordinierte Aufsicht planen, und ändern Sie diese Pläne weiter, während sich die Technologie weiterentwickelt.
Hier einige konkrete Schritte:
1. Interessengruppen aus dem Technologiesektor, der Regierung, der Wissenschaft und der Öffentlichkeit sollten sich einig sein, dass die generative KI Gefahren birgt und einen klaren, integrativen und transparenten KI-Aufsichtsprozess erfordert, mit dem Ziel, eine gesamtgesellschaftliche Verantwortung dafür aufzubauen die Erfolge und Risiken der neuen Technologie.
2. Interessengruppen müssen unverzüglich handeln, um spezifische und einheitliche Leitlinien zu schaffen, um sicherzustellen, dass neue generative KI-Plattformen und -Programme das öffentliche Wohl maximieren und Missbrauch minimieren. Wie bei der Biotechnologie ist böswilliger Missbrauch durchaus möglich. Mit der Umsetzung ethischer Richtlinien zu warten, bis ein Schaden nachgewiesen wird, könnte katastrophal sein.
3. Es sollte unverzüglich ein nationaler beratender Sachverständigenausschuss eingerichtet werden, dessen Mitglieder nicht nur aus Technologieentwicklern und der Regierung, sondern auch aus dem akademischen, ethischen und öffentlichen Sektor stammen, um die Erstellung und Entwicklung von KI-Programmen, die absichtlich sein können, zu überprüfen und Anleitungen zu geben oder versehentlich verwendet werden, um anderen zu schaden oder sie zu kontrollieren.
Wie die Geschichte von Kevin Roose zeigt, können wir sowohl angenehm überrascht als auch unangenehm verstört sein von dem, was neue Technologie schaffen kann. Lassen wir diese Überraschung nicht zu einem schrecklichen persönlichen und sozialen Preis kommen.
Kenneth Bernard, MD, ist ehemaliger Sonderassistent des Präsidenten für Biosicherheit unter den Präsidenten George W. Bush und Bill Clinton. Er ist ehemaliger Assistant Surgeon General und Konteradmiral im Ruhestand im US Public Health Service.
