Gesetz zum Schutz der Roboter

TactX schrieb:

Doktor Prokt schrieb:

Wenn z.B. Moores Gesetz noch ein paar Jahre haelt, werden wir menschliche Gehirnleistung schon bald zur Verfuegung haben.

Wie hoch ist denn die "menschliche Gehirnleistung"? Wie wird/wurde sie festgestellt?

Erhard hat ja am Anfang einen Vorschlag mit 30 Mio. MIPS gemacht. Ich las bisher von ca. 100 Mio. MIPS, was wohl gut in der gleichen Groessenordnung liegt.
Beim Umrechnen menschl. Gehirnleistung in MIPS gingen Forscher so for, dass sie ueberlegten, wieviel ein Neuron "wert" ist.

Unser Gehirn ist ja ein hochparallelisierter Rechner, ein einzelnes Neuron hat zwar nur eine geringe Taktrate (ca. 200 Aktionspotentiale pro Sekunde), allerdings ist es mit vielen anderen verbunden und wir haben sehr viele davon.
Einige Forscher gehen nun davon aus, dass ein Neuron umgerechnet ca. 100 "elementare Anweisungen" pro Sekunde ausfuehren kann.

Mr. N schrieb:

Doktor Prokt schrieb:

Mr. N schrieb:

Doktor Prokt schrieb:

Mal ganz einfach gesprochen: Das menschliche Gehirn ist ja sicher modellierbar.

Davon abgesehen, dass das nicht geht (Aufwand und so)

Behauptest du jetzt einfach mal so. Widerlegt wird es von dir allerdings ja gleich schon im naechsten Satz: Die Natur zeigt, dass es geht: am menschlichen Gehirn.

Das war auf Menschen bezogen. Nicht die Natur. Nenn mir einen oder zwei oder zehntausend Menschen, die das (mit all ihrere Fähigkeit zusammen) können. Selbst wenn sie die tollsten Computer hätten. Man müsste das Gehirn immer noch exakt analysieren. Und das sind ein paar Billionen Neuronen (oder warens nur 50 Milliarden? Dafür aber etliche unterschiedliche Typen).

Was ich sagen wollte, ist, dass das Erreichen menschlicher Gehirnleistung physikalisch moeglich ist. Man kann das sehr gut am menschlichen Gehirn sehen. Daher weiss nicht nicht, warum Menschen ein Gehirn nicht abbilden koennen sollen. Wir muessten es exakt analysieren, das ist wohl richtig, aber nicht in seiner Gesamtheit verstehen.

Mr. N schrieb:

Wozu? Was wäre das dann? Ein Rohling? Und wie simulieren wir dann so menschliche Gefühle wie... Stechen im Brustkorb? Beinschmerzen? Eingeschlafene Füße. Wäre eh nur bedingt sinnvoll. Aber ein integraler Teil des Gehirns. Motorische Kontrolle der Zunge interessiert auch keinen Roboter.

"Menschliche Gefuehle" sind ein Abfallprodukt (Abfall bitte nicht im Sinne von "Muell" verstehen ;)) des Bewusstseins, darueber braeuchten wir uns also keine Sorgen machen.
Ich will jetzt nicht zu sehr in die Science-Fiction abdriften, aber wir koennten soetwas z.B. wollen, um nicht mehr auf einen organischen, sterblichen "Host" angewiesen zu sein.

Mr. N

Doktor Prokt schrieb:

Was ich sagen wollte, ist, dass das Erreichen menschlicher Gehirnleistung physikalisch moeglich ist. Man kann das sehr gut am menschlichen Gehirn sehen. Daher weiss nicht nicht, warum Menschen ein Gehirn nicht abbilden koennen sollen. Wir muessten es exakt analysieren, das ist wohl richtig, aber nicht in seiner Gesamtheit verstehen.

Äh schön. Es ging aber um Intelligenz. Und ich habe gesagt, dass der Begriff linguistisch (linguistisch!) nur bei Menschen wirklich Sinn macht. Nicht mehr und nicht weniger.

Doktor Prokt schrieb:

"Menschliche Gefuehle" sind ein Abfallprodukt (Abfall bitte nicht im Sinne von "Muell" verstehen ;)) des Bewusstseins, darueber braeuchten wir uns also keine Sorgen machen.

Es gibt kein Bewusstsein. Es gibt aber definitiv weite Teile des Gehirns, die für so Dinge wie Kribbeln in den Beinen zuständig sind. Und so wie das Gehirn "konstruiert" ist, wette ich mit dir, dass viele andere Fähigkeiten von diesen Teilen abhängen.

vista

Mr. N schrieb:

Es gibt kein Bewusstsein.

dann hälst du dich und andere menschen für seelenlose maschinen?

Mr. N schrieb:

Doktor Prokt schrieb:

Was ich sagen wollte, ist, dass das Erreichen menschlicher Gehirnleistung physikalisch moeglich ist. Man kann das sehr gut am menschlichen Gehirn sehen. Daher weiss nicht nicht, warum Menschen ein Gehirn nicht abbilden koennen sollen. Wir muessten es exakt analysieren, das ist wohl richtig, aber nicht in seiner Gesamtheit verstehen.

Äh schön. Es ging aber um Intelligenz. Und ich habe gesagt, dass der Begriff linguistisch (linguistisch!) nur bei Menschen wirklich Sinn macht. Nicht mehr und nicht weniger.

Schoen, dass wir uns einigen koennen.

[quote=]
Es gibt kein Bewusstsein. Es gibt aber definitiv weite Teile des Gehirns, die für so Dinge wie Kribbeln in den Beinen zuständig sind. Und so wie das Gehirn "konstruiert" ist, wette ich mit dir, dass viele andere Fähigkeiten von diesen Teilen abhängen.[/quote]

Ganz gewiss gibt es ein Bewusstsein! Es wird durch dein physikalisches Gehirn "induziert".
(Wenn du das Gehirn aber auf einer "niedrigen" Abstraktionsstufe betrachtest, siehst du nur einen grossen Graph an Neuronen, dann gibt es zugegebenermassen keinen Platz fuer das Bewusstsein).

Mr. N

vista schrieb:

Mr. N schrieb:

Es gibt kein Bewusstsein.

dann hälst du dich und andere menschen für seelenlose maschinen?

Ehrlich gesagt ja. Aber das ist natürlich nur meine Ansicht.

Objektiver ist, dass es keine geographisch begrenzte Region "Bewusstsein" im menschlichen Gehirn gibt. (Habe jetzt keine Quelle zum Zitieren, bin aber ziemlich sicher, dass das so ist.)

vista schrieb:

Mr. N schrieb:

Es gibt kein Bewusstsein.

dann hälst du dich und andere menschen für seelenlose maschinen?

Ja. Wir sind (hoechstwahrscheinlich) "nur" ziemlich komplexe Maschinen.
Darueber gibt es uebrigens in der wissenschaftlichen Welt keinen Zweifel.

Mr. N

Doktor Prokt schrieb:

Ganz gewiss gibt es ein Bewusstsein! Es wird durch dein physikalisches Gehirn "induziert".

Ich verstehe nicht, was du meinst. Meinst du den "Ich"-Begriff? Ja, das ist eine lustige Sache :).

Doktor Prokt schrieb:

(Wenn du das Gehirn aber auf einer "niedrigen" Abstraktionsstufe betrachtest, siehst du nur einen grossen Graph an Neuronen, dann gibt es zugegebenermassen keinen Platz fuer das Bewusstsein).

Beim Modellieren kann man die Abstraktionstreppe nicht beliebig hoch gehen.

finix

Mr. N schrieb:

Objektiver ist, dass es keine geographisch begrenzte Region "Bewusstsein" im menschlichen Gehirn gibt. (Habe jetzt keine Quelle zum Zitieren, bin aber ziemlich sicher, dass das so ist.)

Das heißt aber nicht dass es kein Bewusstsein gibt.

vista

Doktor Prokt schrieb:

vista schrieb:

Mr. N schrieb:

Es gibt kein Bewusstsein.

dann hälst du dich und andere menschen für seelenlose maschinen?

Ja. Wir sind (hoechstwahrscheinlich) "nur" ziemlich komplexe Maschinen.
Darueber gibt es uebrigens in der wissenschaftlichen Welt keinen Zweifel.

wissenschaftlich ist es nicht nachweisbar, ob bewusstsein, seele und/oder dergleichen existieren oder nicht, aber ich bin glaube schon, das es das gibt.

Mr. N schrieb:

Doktor Prokt schrieb:

Ganz gewiss gibt es ein Bewusstsein! Es wird durch dein physikalisches Gehirn "induziert".

Ich verstehe nicht, was du meinst. Meinst du den "Ich"-Begriff? Ja, das ist eine lustige Sache :).

Ja, vermutlich meine ich das, was du mit "Ich" meinst. Also den Teil des Bewusstseins, welcher uns unsere individuelle Identitaet erleben laesst (etwas bloed formuliert ;))

Doktor Prokt schrieb:

(Wenn du das Gehirn aber auf einer "niedrigen" Abstraktionsstufe betrachtest, siehst du nur einen grossen Graph an Neuronen, dann gibt es zugegebenermassen keinen Platz fuer das Bewusstsein).

Beim Modellieren kann man die Abstraktionstreppe nicht beliebig hoch gehen.[/quote]
Dem stimme ich zu, gegenteiliges habe ich auch nicht geschrieben. Wenn wir das Gehirn modellieren, wuerden wir auch versuchen, so niedrig wie moeglich anzusetzen, weil wir das Zusammenspiel auf hoeheren Ebenen moeglicherweise nicht vollstaendig verstehen. Den gesamten Rest ((Ich-)Bewusstsein, Gefuehle, etc.) wuerden wir dann kostenlos dazu erhalten.

vista schrieb:

Doktor Prokt schrieb:

vista schrieb:

Mr. N schrieb:

Es gibt kein Bewusstsein.

dann hälst du dich und andere menschen für seelenlose maschinen?

Ja. Wir sind (hoechstwahrscheinlich) "nur" ziemlich komplexe Maschinen.
Darueber gibt es uebrigens in der wissenschaftlichen Welt keinen Zweifel.

wissenschaftlich ist es nicht nachweisbar, ob bewusstsein, seele und/oder dergleichen existieren oder nicht, aber ich bin glaube schon, das es das gibt.

Es ist irrational, davon auszugehen, dass in irgendeiner Form Gehirn und Seele getrennt sind bzw. das Nicht-materialistisches mit Materialistischem interagiert.

Wenn du Dualist bist kannst du nicht gleichzeitig an Evolution glauben, das fuehrt zu einem Widerspruch.

Mr. N

Doktor Prokt schrieb:

Dem stimme ich zu, gegenteiliges habe ich auch nicht geschrieben. Wenn wir das Gehirn modellieren, wuerden wir auch versuchen, so niedrig wie moeglich anzusetzen, weil wir das Zusammenspiel auf hoeheren Ebenen moeglicherweise nicht vollstaendig verstehen. Den gesamten Rest ((Ich-)Bewusstsein, Gefuehle, etc.) wuerden wir dann kostenlos dazu erhalten.

Ob gewisse Dinge nicht eher Balast sind, ist ne andere Frage. Und auf die kann man denke ich einfach nicht verzichten, wenn man "das Gehirn modellieren" will.

Andrey

Ein künstlich erschaffenes Gehirn, das dafür erschaffen wurde, irgendwelche komplexe aufgaben aus der wissenschaft o.ä. zu lösen, würde höchstwahrscheinlich kein bewusstsein entwickeln. Es ist für ein solches system nicht notwendig.

Für den menschen ist ein bewusstsein, ein "Ich" dagegen durchaus sehr nützlich. Es führt zum "gesunden egoismus" sag ich mal, das das überleben des individuums sichert. Denn:
-"Es ist schlecht, wenn mir ein stein auf den kopf fällt"
-"Es ist nicht gut, wenn ich von einem säbelzahntiger gefressen werde"
-"Ich muss alles mögliche tun, um diese höhle zu erobern, weil ich ansonsten draussen erfriere"

Alle andere bewusstseinarten sind ebenfalls in der natur vorstellbar (zB. Ameisen: wozu braucht ein ameisenarbeiter ein "ich" wenn seine existenz im grunde keine rolle spielt? [ausser der königin kann bei dieser spezies ja sowieso keiner eier legen] => für ameisen ist es durchaus richtig und sinnvoll, alles zu tun, um die königin zu beschützen, egal was das für konsequenzen für eine einzelne "mobile einheit"=ameisenarbeiter hat [zB. völlige zerstörung] denn das ist ja kein "individuum", das alleine existieren könnte )

Würde man eine kleine gruppe Menschen mit einem Ameisenbewusstsein erschaffen, würde sie von der anderen , der "egoistischen" gruppe hoechstwahrscheinlich ausgenutzt, und früher oder später im prozess der evolution verdrängt werden...
Deswegen haben menschen normalerweise ein bewusstsein vom typ "ich-bewusstsein"

Wenn man sich jetzt so ein künstliches gehirn vorstellt, sieht man, dass für das gehirn ein "ich" irrelevant ist: solange es die gestellten aufgaben gut bewältigt, existiert es, wenn es die aufgaben schlecht bewältigt, wird es verschrottet, aber aus dieser erfahrung kann so ein gehirn ja nicht lernen, solange es kein soziales wesen ist, und am beispiel anderer gehirne lernen kann.

Da es für die benutzer (Menschen) jedoch ungünstig ist, wenn so eine maschine die halbe rechenleistung mit existenzängsten verschwendet, oder gar "verzweifelt" und "in depression fällt", werden sie wohl keine anstrengungen unternehmen, um dem gehirn ein "ich-bewusstsein" zu verpassen.

\edit: bzw. ich bin der meinung, dass das menschliche "ich" sowieso mindestens zu 50% aus dem körper und den hormonen besteht. ein supercomputer, der wissenschaftliche arbeit verrichtet oder auf die wirtschaft aufpasst, braucht sich um solchen quatsch keine sorgen zu machen... es kann sich ja nicht verletzen, oder krank werden oder sowas in der art... der perfekte, immer rationale denker...

vista

Doktor Prokt schrieb:

Es ist irrational, davon auszugehen, dass in irgendeiner Form Gehirn und Seele getrennt sind bzw. das Nicht-materialistisches mit Materialistischem interagiert.

als jemand, der sich mit computern beschäftigt (und ich denke, dass du das tust, sonst wärst du nicht in diesem forum ;)), weiss man sehr wohl, wie materielles und nicht-materielles zusammen funktionieren...

Doktor Prokt schrieb:

Wenn du Dualist bist kannst du nicht gleichzeitig an Evolution glauben, das fuehrt zu einem Widerspruch.

wieso soll es ein widerspruch sein, an die existenz von etwas zu glauben (bewusstsein o.ä), dessen existenz weder bewiesen noch widerlegt ist.

Erhard Henkes

Neben Neugier und Bewusstsein, gibt es noch weitere Elemente, die den Menschen ausmachen, nämlich z.B. das Gewissen und das Setzen und Verfolgen von Zielen. Kurz gesagt: Ein moralisch veranlagtes Ich-Wesen mit Neugier und einem eigenen Willen. Zusätzlich reagiert dieses Wesen stark auf das Feedback anderer Wesen. Erfolgreiche Mitwirkung in einem Team erfüllt das Wesen mit "Zufriedenheit". Selbst allgemeine Kommunikation gibt der Neugier Nahrung und steuert die Zielfindung bzw. die Eigeneinschätzung. Gefühle bereichern das Ganze enorm und machen erst den wirklich Menschen aus. Die Suche nach dem Sinn des Lebens, nach der Selbstverwirklichung, nach der großen Aufgabe, dem richtigen Partner etc. geben dem Menschen die Würze.

So etwas kann man maschinell modellieren. Nicht einfach, aber machbar, wenn man es wirklich im Grundansatz versteht.

Das Gehirn besteht aus interagierenden Neuronen, die sich bis ins hohe Alter neu vernetzen können (http://de.wikipedia.org/wiki/NMDA-Rezeptor). Anpassung an neue Ziele, eine sich verändernde Umwelt, eine neue Sprache/Kommunikation sind möglich und für den Erfolg notwendig.

Nun zum metrischen Vergleich menschliches und künstliches Gehirn:

Unser Gehirn ist ja ein hochparallelisierter Rechner, ein einzelnes Neuron hat zwar nur eine geringe Taktrate (ca. 200 Aktionspotentiale pro Sekunde), allerdings ist es mit vielen anderen verbunden und wir haben sehr viele davon. Einige Forscher gehen nun davon aus, dass ein Neuron umgerechnet ca. 100 "elementare Anweisungen" pro Sekunde ausfuehren kann.

Menschen-Gehirn: 100 Milliarden Neuronen * 100 IPS = 10 Billionen IPS = 10 Mio. MIPS (dabei kann ein Neuron mit ca. 10.000 anderen Neuronen direkt verbunden sein.)
Kunst-Gehirn (im Jahr 2040): 30 Mio. MIPS

Das passt gut zusammen.

siehe: http://home.zait.uni-bremen.de/~mn/old/glossar/g/node22.html

Vor allem benötigen wir männliche und weibliche Kunst-Gehirne.

Ich denke eines der größten Probleme ist es, dass Maschinen noch nicht wirklich ihre Umwelt wahrnehmen können.

Das sehe ich genau so. Bei einfachen Robotern merkt man, wie schwer es ist, diese dazu zu bringen, einen Slalom zu durchlaufen. Das liegt daran, dass der Roboter nicht "erkennt", dass es sich hier um einen "Slalom" handelt. Wir müssen die Maschine daher durch trickreiche Interaktionen mit den Einzelbestandteilen des Slaloms dazu bringen, dass diese den Slalom zum Schluss möglichst rasch durchläuft. Der bessere Weg wäre eine Erkenntnisbildung nach dem Motto: Aha, das hier ist ein Slalom! Beim Durchgang durch einen Slalom verhält man sich wie folgt: Abwechselnd links und rechts an den aufgestellten Barrieren/Stangen vorbei bewegen.

Ganz gewiss gibt es ein Bewusstsein! Es wird durch dein physikalisches Gehirn "induziert". Ich verstehe nicht, was du meinst. Meinst du den "Ich"-Begriff? Ja, das ist eine lustige Sache :).

Der Ich-Begriff, also das Erkennen der äußeren Hülle als eigene Person, ist ein wichtiger Bestandteil höheren Lebens.

„Das Problem des Bewusstseins bildet heute - vielleicht zusammen mit der Frage nach der Entstehung unseres Universums - die äußerste Grenze des menschlichen Strebens nach Erkenntnis.“ (Philosoph Thomas Metzinger)

Wir sollten auch die Qualia (raw feels, phänomenales Bewusstsein) nicht vergessen: http://de.wikipedia.org/wiki/Qualia “We cannot form to ourselves the idea of an pine-apple, without having actually tasted it.” (Philosoph David Hume, 1739)

Mr. N

Erhard Henkes schrieb:

Würze.

ist kein gutes Ziel

Erhard Henkes

Doch das ist wichtig. Die Idee der fehlenden Qualia läuft auf „philosophische Zombies“ hinaus: Es ist vorstellbar, dass Wesen die gleichen neuronalen Zustände wie andere Menschen haben und sich daher auch im Verhalten nicht von diesen unterscheiden. Dennoch haben sie in Bezug auf den betrachteten neuronalen Zustand kein Erleben. Den neuronalen Zuständen korrelieren also keine Qualia.

Wenn man Humanoide schaffen will, muss die subjektive Wahrnehmung zur menschlichen(!) Umgebung passen, sonst werden die Menschen diese äußerlich menschenähnlichen Wesen als "fremd" bzw. "unmenschlich" bekämpfen oder sich davor fürchten, diese also ablehnen und meiden. Damit bin ich wieder beim Gesetz zum Schutz der Roboter angelangt.

Mr. N

Erhard Henkes schrieb:

Doch das ist wichtig. Die Idee der fehlenden Qualia läuft auf „philosophische Zombies“ hinaus: Es ist vorstellbar, dass Wesen die gleichen neuronalen Zustände wie andere Menschen haben und sich daher auch im Verhalten nicht von diesen unterscheiden. Dennoch haben sie in Bezug auf den betrachteten neuronalen Zustand kein Erleben. Den neuronalen Zuständen korrelieren also keine Qualia.

Will ich nicht verstehen.

Erhard Henkes schrieb:

Wenn man Humanoide schaffen will

Will man eben nicht. Wozu?

vista schrieb:

Doktor Prokt schrieb:

Es ist irrational, davon auszugehen, dass in irgendeiner Form Gehirn und Seele getrennt sind bzw. das Nicht-materialistisches mit Materialistischem interagiert.

als jemand, der sich mit computern beschäftigt (und ich denke, dass du das tust, sonst wärst du nicht in diesem forum ;)), weiss man sehr wohl, wie materielles und nicht-materielles zusammen funktionieren...

Das musst du mir erklaeren.

Doktor Prokt schrieb:

Wenn du Dualist bist kannst du nicht gleichzeitig an Evolution glauben, das fuehrt zu einem Widerspruch.

wieso soll es ein widerspruch sein, an die existenz von etwas zu glauben (bewusstsein o.ä), dessen existenz weder bewiesen noch widerlegt ist.

Ich sehe einen Widerspruch darin, gleichzeitig an Evolution zu glauben und ein dualistisches Weltbild zu haben.