Hallo Zusammen,
der Artikel über
OpenAI, den ich gefunden habe , ist sehr, sehr lang.
In dem Beitrag unterhält sich Elon Musk mit verschiedenen Wissenschaftlern über die Möglichkeit von guter A.I. oder böser A.I. und ob beide Arten zu kontrollieren sind.
Da es für mich Zeitmäßig auch zuviel Material zum übersetzen ist, habe ich nur wenig heraus gesucht.
Elon Musk Billion-Dollar-Kreuzzug, “Elon’s crusade”, um die A.I. Apokalypse zu beeinflussen.Musk hat sich mit einem weiteren Mann,
Altmann, über mögliche Szenarien von der Beeinflussung von A.I. in der Praxis in irgend einer Richtung zu lenken ist, unterhalten. Sie haben das Bild von einem Roboter mit einer scheinbar gutartigen Aufgabe, der die Menschen auch damit schaden könnte, gezeichnet.
Sie schufen das Beispiel:
"Lassen Sie uns sagen, Sie schaffen eine sich
selbst verbessernde A.I. um Erdbeeren zu holen ", sagte Musk," und es wird besser und besser bei der Auswahl von Erdbeeren und Picks mehr und mehr und es ist selbst verbessernd, so dass alles, was es wirklich tun will, ist Erdbeeren auszuwählen. So würde dann bald die ganze Welt Erdbeerfelder haben. Erdbeerfelder für immer. "Kein Raum für Menschen.
(
Anmerkung von mir:
OK Musk weiß evtl. nicht, das Erdbeeren nach einiger Zeit nicht mehr auf dem gleichen Feld wachsen)Altman erweitert das Szenario: "Ein Agent, der die volle Kontrolle über das Internet hat, könnte weit mehr Einfluss über die Welt haben, als ein Agent, der die volle Kontrolle über einen anspruchsvollen Roboter hat. Unser Leben ist schon so abhängig vom Internet, dass ein Agent, der
keinen Körper hat, aber das Internet wirklich gut nutzen könnte, viel mächtiger wäre. "
Aber können sie jemals wirklich einen
Kill-Schalter entwickeln?
"Ich bin mir nicht sicher, ob ich derjenige sein möchte, der den
Kill-Schalter für einige super A.I. betätigt , du wirst das/der Erste sein, was es tötet", antwortete Musk
Die Aussage von
Eliezer Yudkowsky:
"Wie kodierst du die Zielfunktionen eines A.I. So dass er einen Aus-Schalter hat und
er will, dass er einen Aus-Schalter hat und er nicht versuchen wird, den Aus-Schalter zu beseitigen und er wird Sie den Aus-Schalter drücken lassen.
Aber wird er nicht vorspringen und bei Ihnen selbst den Aus-Schalter drücken. ? "
"Und wenn er sich selbst modifiziert, wird er sich selbst so modifizieren, dass der Aus-Schalter beibehalten wird?
Wir versuchen daran zu arbeiten. Es ist nicht einfach."Quelle
http://www.vanityfair.com/news/2017/03/elon-musk-billion-dollar-crusade-to-stop-ai-space-xMit einem fast 50 min. langen Video mit dem Interview, sehr weit unten zu finden:
From the V.F. Summit: Elon Musk on Thinking for the FutureEr wird auch über seinen Besuch bei einem Meeting mit D. Trump befragt.
Die Geister (Atom+KI), die wir riefen.....
Bei den Vorstellungen der möglichen Zukunft der Menschen,
bin ich froh, alt zu sein.
Mit gut, das ich nicht alles weiß,
grüßt Euch Gertrud