Einladung aus dem Technologiesektor: Lassen Sie die Forschung zur künstlichen Intelligenz moderieren, bis Sicherheitsmaßnahmen ergriffen werden
OpenAI, unterstützt von Microsoft, hat die vierte Version seines Programms für künstliche Intelligenz GPT (Generative Preprocessing Converter) veröffentlicht.
Die neue Technologie verspricht Anwendungen in vielen Bereichen, von der menschenähnlichen Konversation über das Komponieren von Musik bis hin zum Zusammenfassen langer Dokumente.
Der Brief, der vom gemeinnützigen Future of Life Institute veröffentlicht und von mehr als 1.000 Personen, darunter Elon Musk, unterzeichnet wurde, forderte, dass die fortgeschrittene KI-Forschung eingestellt wird, bis Sicherheitsprotokolle für diese medizinischen Designs entwickelt, implementiert und von unabhängigen Stellen geprüft wurden Experten. .
„Starke KI-Technologien sollten entwickelt werden, nachdem wir zuversichtlich sind, dass sie positive Auswirkungen haben und ihre Risiken bewältigt werden können“, heißt es in dem Schreiben.
OpenAI hat noch nicht auf Anfragen nach Kommentaren geantwortet.
In dem Schreiben wurden die potenziellen Risiken, die künstliche Intelligenzsysteme, die sich im Wettbewerb entwickeln können, bei wirtschaftlichen und politischen Turbulenzen für Gesellschaft und Zivilisation darstellen können, ausführlich erläutert. Die Entwickler von Systemen der künstlichen Intelligenz wurden eingeladen, mit politischen Entscheidungsträgern und Regulierungsbehörden zusammenzuarbeiten.
Unter den Unterzeichnern des Briefes sind Stability-CEO Emad Mostaque, Forscher bei DeepMind im Besitz von Alhabet, Yoshua Bengio, der als „einer der Väter der künstlichen Intelligenz“ bezeichnet wird, und Stuart Russell, einer der Pioniere der Forschung auf diesem Gebiet.
Gemäß den Transparenzprotokollen der Europäischen Union (EU) wird das Future of Life Institute größtenteils von der Musk Foundation, der in London ansässigen Wohltätigkeitsorganisation Founders Pledge und der Silicon Valley Community Foundation finanziert.
Auch die EU-Polizei Europol hat sich den Organisationen angeschlossen, die ethische und rechtliche Bedenken gegen fortschrittliche Systeme der künstlichen Intelligenz wie ChatGPT (Chat-Roboter) äußern. Europol warnte davor, dass das System möglicherweise für Phishing-Versuche, Desinformation und Cyber-Vergehen missbraucht werden könnte.
Elon Musk, der künstliche Intelligenz in automatischen Fahrersystemen in Tesla-Fahrzeugen einsetzt, spricht seit einiger Zeit über dieses Thema.
Seit dem Debüt des ChatGPT-Systems von OpenAI im vergangenen Jahr haben Wettbewerber die Entwicklung ähnlicher Systeme und die Integration von Unternehmen in KI-Modelle beschleunigt.
„Künstliche Intelligenz wird beworben“
OpenAI gab letzte Woche bekannt, dass es mit etwa 10 Unternehmen eine Partnerschaft eingegangen ist, um das System zu nutzen, und sagte, dass ChatGP-Benutzer bei InstaCart einkaufen oder Flugtickets bei Expedia buchen können.
Ein Sprecher des Future of Life Institute sagte, Sam Altman, CEO von OpenAI, habe den Brief nicht unterzeichnet.
Gegner sagen in dem Brief, dass „künstliche Intelligenz beworben und das derzeitige Potenzial der Technologie maßlos übertrieben wurde“.
Johanna Björklund, eine Forscherin für künstliche Intelligenz von der Umea University, sagte: „Diese Art von Aussagen werden gemacht, um die Fanfare zu erhöhen und die Menschen zu beunruhigen. „Ich glaube nicht, dass es nötig ist, die Handbremse zu ziehen“, sagte er.
Björklund erklärte, dass Forscher im Bereich der künstlichen Intelligenz strengeren Transparenzmaßnahmen unterliegen sollten, anstatt die Forschung in den Mittelpunkt zu stellen, und sagte: „Wenn Sie Forschung im Bereich der künstlichen Intelligenz betreiben, müssen Sie transparenter sein, wie Sie dies tun.“
T24
