Nach Jahren der Entwicklung fährt Künstliche Intelligenz (KI) heute Autos auf öffentlichen Straßen, führt Bewertungen für befragte Personen durch und produziert preisgekrönte Kunstwerke.
Laut dem Bericht von TRT ist eine seit langem bestehende Frage auf diesem Gebiet, ob eine brillant intelligente künstliche Intelligenz den Abgrund verbreiten und die Menschheit auslöschen könnte.
Forscher der Universität Oxford und von Google Deepmind kamen zu dem Schluss, dass dies in neuer Forschung „wahrscheinlich“ ist.
Hauptautor des Artikels Michael KohenIn der Tweet-Kette, in der er den Artikel auf Twitter ankündigte, benutzte er die Worte „Eine existenzielle Katastrophe ist nicht nur möglich, sondern auch wahrscheinlich“.
Ausgehend vom Belohnungs-Strafsystem
Der Artikel konzentrierte sich auf das „Reinforcement Learning“-Modell, das beim Training künstlicher Intelligenz verwendet wird.
Dieser Ansatz zielt darauf ab, der künstlichen Intelligenz beizubringen, was in Übereinstimmung mit einem bestimmten Zweck zu tun ist.
Die Maschine, im Reinforcement Learning „Agent“ genannt, reagiert auf die Situationen, denen sie begegnet, und erhält einen Belohnungspunkt, wenn sie tatsächlich reagiert.
Bei dieser Technik, die dem Prozess ähnelt, bei dem kleine Kinder soziale Fähigkeiten durch Belohnung/Bestrafung erwerben, arbeitet künstliche Intelligenz immer daran, die erhaltenen Belohnungspunkte zu maximieren.
Es kann Bedrohungen durch Betrug beseitigen
In dem Artikel wurde auf die Risiken des Modells aufmerksam gemacht: „Zum Beispiel haben wir der künstlichen Intelligenz eine große Belohnung gegeben, um anzuzeigen, dass uns etwas zufriedenstellt. Sie kann davon ausgehen, dass das, was uns zufrieden gestellt hat, tatsächlich das Senden dieser Belohnung war. Keine Beobachtung kann widerlegen Dies.“
Die Autoren erklärten auch, dass künstliche Intelligenz, die in Zukunft neue Formen annehmen und sich weiterentwickeln wird, neue Formeln entwickeln und Cheats verwenden kann, um die Belohnung zu erhalten, bevor sie den angegebenen Zweck erreicht.
Mit anderen Worten, die KI möchte möglicherweise „potenzielle Bedrohungen entfernen“, um die Kontrolle über ihre Belohnung zu erlangen.
Als Ergebnis wurde festgestellt, dass es möglich ist, Menschen zu schaden.
T24
