OpenAI mit Elon Musk

Elon Musk macht wieder Ankündigungen, diesmal zur Informatik, speziell zur Thematik Artifical Intelligence (AI).

(ok, ist nicht spezifisch Raumfahrt, aber Software/Robotik/Autonomie/Militärische Nutzung spielt in die Raumfahrt ja auch irgendwie rein).

Musk hat sich bereits vor einiger Zeit zur Fraktion der AI-Skeptiker gezählt, die die Technologie für gefährlich halten.

Jetzt soll es eine Stiftung geben, die offene Forschung im Bereich AI betreibt.

Verschiedene Akteuer, u.a. Musk, wollen dafür 1 Mrd $ bereitstellen, wobei in den nächsten Jahren doch nur ein Bruchteil davon ausgegeben werden soll.

http://www.buzzfeed.com/danvergano/elon-musk-unveils-artificial-intelligence-institute-to-stop
https://openai.com/blog/introducing-openai/

Da stimme ich ihm vollständig zu

Hallo Zusammen,

der Artikel über OpenAI, den ich gefunden habe , ist sehr, sehr lang.
In dem Beitrag unterhält sich Elon Musk mit verschiedenen Wissenschaftlern über die Möglichkeit von guter A.I. oder böser A.I. und ob beide Arten zu kontrollieren sind.
Da es für mich Zeitmäßig auch zuviel Material zum übersetzen ist, habe ich nur wenig heraus gesucht.

Elon Musk Billion-Dollar-Kreuzzug, “Elon’s crusade”, um die A.I. Apokalypse zu beeinflussen.

Musk hat sich mit einem weiteren Mann, Altmann, über mögliche Szenarien von der Beeinflussung von A.I. in der Praxis in irgend einer Richtung zu lenken ist, unterhalten. Sie haben das Bild von einem Roboter mit einer scheinbar gutartigen Aufgabe, der die Menschen auch damit schaden könnte, gezeichnet.

Sie schufen das Beispiel:
"Lassen Sie uns sagen, Sie schaffen eine sich selbst verbessernde A.I. um Erdbeeren zu holen ", sagte Musk," und es wird besser und besser bei der Auswahl von Erdbeeren und Picks mehr und mehr und es ist selbst verbessernd, so dass alles, was es wirklich tun will, ist Erdbeeren auszuwählen. So würde dann bald die ganze Welt Erdbeerfelder haben. Erdbeerfelder für immer. "Kein Raum für Menschen.
(Anmerkung von mir: OK Musk weiß evtl. nicht, das Erdbeeren nach einiger Zeit nicht mehr auf dem gleichen Feld  wachsen)

Altman erweitert das Szenario: "Ein Agent, der die volle Kontrolle über das Internet hat, könnte weit mehr Einfluss über die Welt haben, als ein Agent, der die volle Kontrolle über einen anspruchsvollen Roboter hat. Unser Leben ist schon so abhängig vom Internet, dass ein Agent, der keinen Körper hat, aber das Internet wirklich gut nutzen könnte, viel mächtiger wäre. "

Aber können sie jemals wirklich einen Kill-Schalter entwickeln?
"Ich bin mir nicht sicher, ob ich derjenige sein möchte, der den Kill-Schalter für einige super A.I. betätigt , du  wirst das/der Erste sein, was es tötet", antwortete Musk


Die Aussage von Eliezer Yudkowsky:
"Wie kodierst du die Zielfunktionen eines A.I. So dass er einen Aus-Schalter hat und er will, dass er einen Aus-Schalter hat und er nicht versuchen wird, den Aus-Schalter zu beseitigen und er wird Sie den Aus-Schalter drücken lassen.
Aber wird er nicht vorspringen und  bei Ihnen selbst den Aus-Schalter drücken. ? " 
"Und wenn er sich selbst modifiziert, wird er sich selbst so modifizieren, dass der Aus-Schalter beibehalten wird?
Wir versuchen daran zu arbeiten. Es ist nicht einfach."

Quelle
http://www.vanityfair.com/news/2017/03/elon-musk-billion-dollar-crusade-to-stop-ai-space-x

Mit einem fast 50 min. langen Video mit dem Interview, sehr weit unten zu finden:
From the V.F. Summit: Elon Musk on Thinking for the Future

Er wird auch über seinen Besuch bei einem Meeting mit D. Trump befragt.


Die Geister (Atom+KI), die wir riefen.....

Bei den Vorstellungen der möglichen Zukunft der Menschen,
bin ich froh, alt zu sein.

Mit gut, das ich nicht alles weiß,
grüßt Euch Gertrud

Ich wollte es schon bei space X hinein schreiben aber hier passt es wohl besser:

Elon Musk hat ein neues Unternehmen gegründet: neuralink.

Ziel ist es, das menschliche Gehirn mit (Computer)Technik zu verbinden.
-
Hoffe, das zersplittet seine Zeit und Aufmerksamkeit nicht zu sehr. Hyperloop wollte er ja noch nicht Persönlich umsetzen, weil er sich mit SpX und Tesla (plus Solar City und Bore Company) zu ausgelastet gefühlt hat.

[EDIT] Rechtschreibung

Hallo @Sensei,
da Du gerade einen tollen Abend mit dem Raumcon-Stammtisch erlebst,
habe ich zu deinen Thema hoffentlich passende Links rausgesucht.

In deutsch:
Blick in die Zukunft: Elon Musk will das menschliche Gehirn mit Computern vernetzen
https://deutsch.rt.com/gesellschaft/48340-blick-in-zukunft-elon-musk/
zu meiner Schande muß ich gestehen, ich weiß nicht,ob rtdeutsch eine optimale Adresse zum verlinken ist.

Dann in englisch:

Worth reposting the Wait But Why piece on AI. We are at the beginning of exponential growth in digital intelligence.http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

…
The AI Revolution: The Road to Superintelligence
http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

https://twitter.com/elonmusk/status/702534707464896512?ref_src=twsrc%5Etfw&ref_url=https%3A%2F%2Fdeutsch.rt.com%2Fgesellschaft%2F48340-blick-in-zukunft-elon-musk%2F

Elon Musk’s Neuralink is not about preventing an AI apocalypse
http://www.theverge.com/2017/3/28/15094040/elon-musk-neuralink-kernel-brain-chips-ai-apocalypse


Mit den Wünsche für einen interessanten Abend und liebe Grüße an alle, Gertrud

Das mit der AI-Apokalypse ist doch eigentlich totaler Schmarrn. Ich weiss nicht was sich die Leute unter neuronalen Netzen / Maschinenlernen vorstellen?
Wir arbeiten gerade an einen Algorithmus, der auf neuronalen Netzen basiert und das ganze ist kein apokalyptisches Hexenwerk sondern ganz normale Mathematik wie alle anderen Algorithmen auch. Der Vorteil von Algorithmen auf Basis neuronaler Netze sind:
* Besseres Patternmatching. Da waren Menschen bis jetzt Computern überlegen und durch die neuen Algorithmen sind sie gleich auf / etwas stärker. Beispiele für die Verwendung: Spracherkennung, Bilderkennung, Nicht-berechenbare Spiele wie Go
* "Brute-Force"-Design. Es gibt mehrere Arten dieser Algorithmen die teilweise recht ähnlich sind und bei denen man dann jeweils einige Parameter auf seinen Anwendungsbereich trimmen kann. Danach trainiert man den Algorithmus mit Beispieleingaben und den erwarteten Ausgaben.
==> Dadurch steckt man wenig Entwicklungsaufwand in den eigentlichen Algorithmus. Stattdessen kann man aus einem Toolkit von bereits existierenden Algorithmen wählen und diese "wiederverwenden".
==> Der eigentliche Aufwand steckt in den Trainingsdaten die dem Algorithmus zugefüttert werden.
==> Das Training ist sehr hardwareaufwändig. Ist aber dank der Cloud kein Problem mehr.
Das neuronale Netz kann man übrigens dann in einer Art Matrix abbilden.

Neuronale Netze sind übrigens tatsächlich an der Biologie des Gehirns angelehnt. Das ist allerdings kein Grund zu denken, dass eines Tages die AI uns unterwerfen wird. Bei den allermeisten Anwendungen wird der Algorithmus (Code + Matrix) auch während der Anwendung nicht verändert (das ist zwar möglich aber meistens nicht sinnvoll). Außerdem sind die Algorithmen alle (bis jetzt) auf ein Spezialgebiet trainiert.

Das andere Projekt von Elon Musk ist ja, soweit ich das verstanden habe, eine Art Mensch-Maschine-Interface. Halte ich persönlich für sehr sinnvoll da man so Prothesen an das Gehirn anschließen kann. Zb. für künstliche Augen, zur Steuerung von Gliedmaßen, etc.

Ich empfehle dringend den Artikel von WaitButWhy zu lesen zu dem Thema, sobald die AI Intelligent wird kann es durchaus gefährlich werden.

Ich hab den Artikel mal überflogen und er fasst zwar das Thema bestimmt sehr gut zusammen aber ich finde er generalisiert sehr stark und macht zukunftsvorhersagen, die sehr schwierig sind:
* Was die Entwicklung von Computern angeht, so ist Moore's Law am Ende. Zumindest meine Desktop-CPUs werden nicht mehr exponentiell schneller.
* Für GPUs wird dieses Ende auch bald kommen
Übrigens, die Algorithmen für die AI wurden schon vor Jahrzehnten erforscht. Sie sind blos erst anwendbar seit dem es GPGPUs gibt die, die nötige Rechenpower mitbringen um diese zu trainieren.

Dann stelle ich mir die Frage was der Impact der AI überhaupt sein wird. Wir verwenden Computer als eine Art Werkzeug und auch die zukünftigen Entwicklungen werden wir als Werkzeug (oder Sklave?) verwenden. Ich finde es nur schwer begründbar warum wir die Kontrolle über unsere Werkzeuge aufgeben sollen. Und an der Stelle wird es philosophisch und man kommt schnell von Fakten weg.

* Was die Entwicklung von Computern angeht, so ist Moore's Law am Ende. Zumindest meine Desktop-CPUs werden nicht mehr exponentiell schneller.
* Für GPUs wird dieses Ende auch bald kommen

Sie wurden auch vorher nicht exponentiell schneller. Ich bin mir auch nicht ganz sicher was du mit "schnell" meinst.....den Takt oder die Performance?
Moores Law hat per definitionem eigentlich nichts mit Geschwindigkeit zu tun, sondern nur mit der Integrationsdichte der Transistoren. Da jeder neue Technologienode kleinere Transistoren mit sich bringt, steigt meist auch die Anzahl der Transistoren bzw. Funktionsblöcke und somit die Prozessor-Performance.
Ich kann gegenwärtig noch nicht erkennen, dass die Performance der Prozessoren nicht mehr steigt, zumal diese auch nicht ausschließlich (!) von einem gültigen Moores-Law abhängt.
Das Ende von Moores Law zwar in Sicht, aber noch nicht wirklich da.

So kann man das nicht stehen lassen, sowohl bei Halbleitern und noch mehr bei Festplatten ist die Steigerung ziemlich eingeschlafen

Ich habe ja auch nicht geschrieben, dass das Performance-Wachstum ungehindert hoch ist. Es ist aber nach wievor vorhanden genauso wie Moores Law.
Verstehe auch nicht ganz was das jetzt plötzlich mit Festplatten zu tun haben soll.

Hier mal einige aktuelle Aussagen des Intel-CEO:
April 2016:

In my 34 years in the semiconductor industry, I have witnessed the advertised death of Moore’s Law no less than four times. As we progress from 14 nanometer technology to 10 nanometer and plan for 7 nanometer and 5 nanometer and even beyond, our plans are proof that Moore’s Law is alive and well

Januar 2017:

I've heard the death of Moore's law more times than anything else in my career and I'm here today to really show you and tell you that Moore's Law is alive and well and flourishing.

Ich weiß noch ziemlich genau wie ich in meinem Studium einen Vortrag zu Moores Law halten sollte. AMD hatte ganz frisch die Gigahertzgrenze durchstoßen und ich habe einen Fachartikel gelesen, in welchem die These vertreten wurde, dass ab 10 GHz Taktfrequenz eine simultane Sprachübersetzung ermöglicht werden wird --> also erst mit Hardware, die Faktor 10 schneller ist als damals verfügbare Hardware. Dieses nette Feature (simultane Sprachübersetzung) konnte aber erst seit relativ kurzer Zeit demonstriert werden, während die Hardware zwischenzeitlich eigentlich schon länger um den Faktor 10 besser als ein Pentium III von damals war.

Um nun wieder den Bogen zurück zum eigentlichen Threadthema zu spannen: Die Software hinkt den Hardwaremöglichkeiten meiner Meinung nach hinterher. Es hat auch überraschend lange gedauert, bis Parallel Computing (hier insbesondere die Multicorefunktionalität bei Prozessoren) von ausreichend vielen Programmen unterstützt wurde.
Die Hardwarefrage stellt sich in meinen Augen gar nicht mehr. AI ist (imho) eine Frage entsprechend hochkomplexer Software. Seit den 70er Jahren und Marvin Minsky (seinerzeit der Godfather der AI) scheinen so viele davon überzeugt gewesen zu sein, dass AI nur eine Frage der Prozessierungsgeschwindigkeit ist und haben das Problem der SW-Komplexität vollkommen unterschätzt. Neuronale Netze sind wie tnt ja schon sagte auch nichts wirklich Brandneues und ebenso Machine Learning-Algorithmen gibt es schon länger, auch wenn ständig neue Algorithmen dazukommen.
Vielleicht ist OpenAI da ein sehr guter Weg, das bisherige Wissen gezielt zusammenzuführen.

So kann man das nicht stehen lassen, sowohl bei Halbleitern und noch mehr bei Festplatten ist die Steigerung ziemlich eingeschlafen

Es gibt ja auch eine Modifizierte Version von Moore's Law aus diesem Grund.
Dennoch werden die Prozessoren schneller und die Technologie für einige großen Schritte steht in den Startlöchern.
So hat IBM inzwischen einige große Probleme mit Transistoren auf ~2nm Basis mit Carbon Tubes gelöst, soweit ich weiß können die mit bis zu 80 GHz laufen.

Ich würde also sagen da ist noch viel Luft nach oben.

Da muss ich Doc Hoschi recht geben: Software-Komplexität wird wahnsinnig unterschätzt. Als Informatiker würde ich sogar soweit gehen zu sagen, dass Software-Komplexität eigentlich nicht handlebar ist. Zwischen der selbstprogrammierten Endanwendung und dem was dann wirklich auf der Hardware passiert liegen zig Schichten und schon von der nächsttieferen Schicht weiss man eigentlich gar nicht was sie so genau macht. Aber gut das hat mit dem Thema eigentlich nur am Rande zu tun.

Zum Thema exponentielles Wachstum der Rechenleistung:


Das ist im Desktop-PC-Bereich seit Einführung der 2. Core-Generation schon ziemlich eingeschlafen. Wird aber einerseits im GPU-Markt noch begrenzt weitergeführt (durch massive Parallelisierung, was sich aber gut für AI eignet). Andererseits werden die schnellen Chips immer stromsparender (für Handys, IoT). Inwieweit da ein Technologiesprung durch Quantencomputer bzw. Nanoröhren da nochmal einen Push gibt muss man abwarten.

Jetzt spannen wir mal den Bogen zurück zur AI: Nüchtern betrachtet haben wir jetzt neue Möglichkeiten Algorithmen zu entwickeln, die uns beim Pattern Matching sehr viel weitergebracht haben. Um aber eine "menschliche" AI zu schaffen muss man mindestens mehrere dieser Algorithmen verknüpfen. Zu dem Thema würde mir als erstes IBM Watson einfallen aber bei dem weiss ich auch nicht ob es nicht nur eine Ansammlung verschiedener Algorithmen ist (bzw. einfach nur eine "Idee").
Die nächste Frage ist, ob es überhaupt sinnvoll ist eine menschliche AI zu schaffen (oder diese simulieren zu wollen). Wenn ich mal bei dem Werkzeug-Vergleich bleibe sind die meisten unserer Funktionen sehr unproduktiv ;-)

Ein bischen Raumfahrtbezug wäre hier nicht schlecht, wir diskutieren ja auch nicht Tesla usw. hier.

Ein bischen Raumfahrtbezug wäre hier nicht schlecht, wir diskutieren ja auch nicht Tesla usw. hier.

Okay ich versuche das mal: In einer Zukunft in der nicht ausgebildete Amateure im Weltraum herum fliegen ist so etwas wie ein intelligenter Bordcomputer fast schon obligatorisch. Ich denke dabei nicht nur an die Steuerung des Schiffes, sondern ich glaube, dass vor Allem für die Datensammlung während einer Mission AIs großartige Helfer sein können.

Ich beschäftige mich ein wenig mit freien Wissensdatenbanken, neben der guten alten Wikipedia gibt es ja auch Openstreetmap für freie Kartendaten und das unberechtigterweise relativ unbekannte WikiData für freie Daten über alles und jeden. Eine ganze Reihe von Firmen haben schon versucht selber eine Wissensdatenbank für intelligente Analysen der Welt aufzubauen, sind an der Komplexität gescheitert und haben dann verkündet das freie WikiData zu verwenden und sich auch finanziell an dem Projekt zu beteiligen. Trotzdem ist Wikidata heute noch sehr unvollständig und hat nur in einzelnen Bereichen (z.B. Stammbäume von Lebewesen, Geographie, Lebensläufe von Wichtigen Personen, Mathematik) halbwegs brauchbare Daten. Es gibt immer wieder mal Initativen um einen Bereich aufzubessern, z.B. werden Openstreetmap Daten mit WikiData Daten verknüpft. Worauf ich hinaus will: Die Welt ist extrem Komplex, und das wird nicht besser werden, wenn wir den Rest des Sonnensystems noch mit in unseren Horizont hinein nehmen.

Wenn man künstliche Intelligenz bauen will, die wirklich weiß was sie tut, dann braucht man einen großen Berg strukturierter Daten. Die jetzigen Ansätze mit Maschinenlernen gibt zwar gute Ergebnisse für bestimmte Aufgaben, aber das System versteht nicht selbst was es tut. Es hat einfach nur durch Versuch und Irrtum die beste Lösung gefunden.  Es gibt nur eine einzige Datenbank, die nach 32 Jahren Entwicklung wohl so etwas wie ein gut strukturiertes Weltwissen hervor gebracht hat: Cyc. Wikidata möchte etwas Ähnliches als Gemeinschaftsprojekt erschaffen.

Ich glaube auf diese Ebene werden AIs in der Raumfahrt am nützlichsten Sein: Daten bei Bedarf liefern, gleichzeitig Daten sammeln und durch die gesammelten Daten wiederum bessere Daten liefern. All die Daten von allen Sonden über alle Zeiten hinweg miteinander zu verknüpfen und daraus ein schlüssiges Bild über das Universum zu erstellen, das kann irgendwann nur noch von einer AI geschafft werden. Die Ergebnisse auf Fehler Prüfen ist vielleicht weiterhin eine menschliche Aufgabe, aber alle Daten sichten schafft schon heute kein Wissenschaftler ohne maschinelle Hilfe. Ich stelle mir das so vor, dass jedes Schiff ohne Zutun der Mannschaft permanent seine Umgebung beobachtet und das von einer oder mehreren zentralen AIs ausgewertet wird.

Ich glaube übrigens auch, dass AIs kein Hardwareproblem mehr sind, sondern die Softwareentwicklung hinterherhinkt.

Eine ganze Reihe von Firmen haben schon versucht selber eine Wissensdatenbank für intelligente Analysen der Welt aufzubauen, sind an der Komplexität gescheitert und haben dann verkündet das freie WikiData zu verwenden und sich auch finanziell an dem Projekt zu beteiligen.

Na ja. Eigentlich scheitern sie nicht an der Komplexität sondern meist eher am Antrieb, jener ist bei freier Entwicklung halt ein anderer als bei geschlossenen kommerziellen.
Die ganze Komplexitätsdiskussion heute ist auch übertrieben. Software wird hauptsächlich deswegen komplexer weil Entwickler von Natur aus faul sind, da setzt man eben auf die 20. Schnittstelle statt tiefer einzugreifen.

In der Raumfahrt dürfte das aber kaum eine Rolle spielen. Bezweifle das sich da jemand das Risiko gibt, großartig Fremdsoftware einzusetzen und da spielt Effektivität auch noch eine größere Rolle und Kompatibilität eine ziemlich geringe.