Eine Reihe prominenter Experten für künstliche Intelligenz, darunter Elon Musk, CEO von Tesla, haben einen offenen Brief unterzeichnet, in dem sie eine sechsmonatige Pause bei der Entwicklung von Systemen fordern, die leistungsfähiger sind als der neu eingeführte GPT-4 (Generative Pre-Trained Transformer) von OpenAI. Doch in der langen Liste der Unterschriften fehlte ein nennenswerter Name.
Am Mittwoch fehlt der Name von OpenAI-CEO Sam Altman in dem Brief, und seine Kommentare zu den in dem Schreiben geäußerten Bedenken deuten darauf hin, dass er keine Pläne hat, irgendeinen Stopp der KI-Entwicklung zu fordern.
Altman ist mit der Formulierung des Briefes nicht einverstanden und argumentiert, dass sein Unternehmen die KI-Sicherheit nicht nur ernst nehme, sondern mehr als andere in der Branche Das Wall Street Journalist Deepa Seetharam. „Wir haben, glaube ich, am längsten am lautesten, mit der größten Intensität über diese Themen gesprochen“, sagte er zu Seetharam.
Der Brief kommt Wochen, nachdem OpenAI die vierte Version seines GPT-Programms vorgestellt hat, das mit seiner Fähigkeit, menschenähnliche Gespräche zu führen und in einigen der anspruchsvollsten standardisierten Tests zu glänzen, sowohl beeindruckt als auch Alarm ausgelöst hat. Die neueste Iteration kann die meisten Advanced Placement-Prüfungen bestehen und im 90. Perzentil der standardisierten Anwaltsprüfung punkten.
Der Brief wurde vom gemeinnützigen Future of Life Institute herausgegeben, dessen Mission es ist, „transformative Technologie zum Nutzen des Lebens und weg von extrem großen Risiken zu lenken“, und wurde von mehr als 1.000 Menschen unterzeichnet. Darin heißt es, dass es eine Pause geben sollte Fortschritt KI-Entwicklung, bis Labore und unabhängige Experten Sicherheitsprotokolle für diese Technologien entwickeln und implementieren können.
„Leistungsstarke KI-Systeme sollten erst entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind“, heißt es in dem Schreiben.
„Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure umfassen“, heißt es darin. „Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.“
Unter den Unterzeichnern sind Emad Mostaque, CEO von Stability AI; Apple-Mitbegründer Steve Wozniak; einer der „Godfathers of AI“, Yoshua Bengio; Exekutivdirektor des Zentrums für humane Technologie Tristan Harris; der wegweisende KI-Forscher Stuart Russell; Max Tegmark, Forscher für maschinelles Lernen; und Softwareentwickler Grady Booch.
Es gab frühere Spekulationen, dass Altman den Brief mit seinem Namen unterschrieben hatte, aber es wurde später bestätigt, dass dies eine falsche Unterschrift war.
Ebenfalls in der Namensliste fehlt Jack Clark, der Mitbegründer von Anthropic, einem KI-Sicherheits- und Forschungsunternehmen, das von ehemaligen Mitgliedern von OpenAI gegründet wurde. Das Unternehmen hat auch eine formelle Partnerschaft mit Google Cloud, und Google hat fast 400 Millionen US-Dollar in Anthropic investiert, was die Rivalität des Unternehmens mit OpenAI anheizt.
Der Brief kommt Wochen, nachdem OpenAI die vierte Version seines GPT-Programms vorgestellt hat, das mit seiner Fähigkeit, menschenähnliche Gespräche zu führen und in einigen der anspruchsvollsten standardisierten Tests zu glänzen, sowohl beeindruckt als auch Alarm ausgelöst hat. Die neueste Iteration kann die meisten Advanced Placement-Prüfungen bestehen und im 90. Perzentil der standardisierten Anwaltsprüfung punkten.
Obwohl die KI-Entwicklung weiter voranschreitet, hat sogar OpenAI-Präsident Greg Brockman davor gewarnt, dass solche Technologien Konsequenzen haben, einschließlich eines größeren öffentlichen Vertrauens in GPT-4, das manchmal immer noch ungenau sein kann.
„Wir glauben, dass es mehr KI-Regulierung geben sollte“, sagte Brockman Anfang dieses Monats gegenüber Axios. “Man braucht wirklich eine gebildete Öffentlichkeit.”
theaktuellenews per E-Mail an OpenAI um einen Kommentar gebeten.
