GBlog&search

 

GBlog&count



GBlog&listen


Van Morrison
Roll with the Punches


Chilly Gonzales und Jarvis Cocker
Room 29


Blackfield (Aviv Geffen & Steven Wilson)
Blackfield V


Jeff Beck
Loud Hailer




Daniel Hope
Escape to Paradise


Daniel Hope
Spheres


Jonathan Rudess
Explorations


Animals As Leaders
The Joy Of Motion


Colosseum
Valentyne Suite


Jack Bruce
Harmony Row


Spooky Tooth
Spooky Two



Utopia
Ra


Richie Havens
Nobody Left to Crown




Dimitri Schostakowitsch, Mariss Jansons
Sinfonien 1-15


Moondog & the London Saxophoni
Sax Pax for a Sax

GBlog&read - Nutzen Sie die Hinweise zur Orientierung und kaufen Sie dann beim Buchhändler um die Ecke


Uwe Timm
Ikarien



Christoph Ransmayr:
Cox oder Der Lauf der Zeit




Heinrich Detering
Die Stimmen aus der Unterwelt



Steffen Kopetzky
Risiko


José Saramago
Kain


Eva Menasse
Quasikristalle


Roberto Bolaño
2666


Tschingis Aitmatow
Der erste Lehrer


Uwe Timm
Rot


Leonardo Padura
Adiós Hemingway


Antonio Skarmeta
Mit brennender Geduld


Jose Saramago
Die Stadt der Blinden


Edgar Hilsenrath
Nacht: Roman



Rolf Dubs
Lehrerverhalten

User Status

Du bist nicht angemeldet.

Lars und der "ethische Gouverneur" - LARs and the Ethical Governor

lars
Lars war einmal - ehemalige Kinder oder eltere Eltern werden sich erinnern - ein kleiner Eisbär; - jetzt ist er mutiert zu LARs = Lethal Autonomous Robots.
LARs sollen - in Weiterentwicklung der Dronen [MotherboardTV] à la Predator mit Hellfire-Raketen - ihr tödliches Werk ganz ohne menschlichen Einfluss verrichten und dabei 'menschlicher als Menschen' agieren können.
Sehr lesenswert dazu ist Reymer Klüvers Artikel in der Süddeutschen Zeitung vom 14. August: Automaten des Todes. Klüwer zitiert Ronald Arkin,
    einen der weltweit führenden Forscher auf dem Gebiet der Robotik, [der] der Überzeugung [ist], dass es möglich ist, "Roboter zu entwerfen, die weniger Fehler machen, als es jetzt Menschen in Kampfgebieten tun". Die Roboter könnten vielleicht eines Tages so programmiert werden, dass sie nur gemäß Kriegsrecht und den Einsatzregeln von Soldaten handelten. Mit so einem, wie er es nennt, "ethischen Gouverneur" ausgestattete Roboter seien Menschen beim moralischen Abwägen in einer Kampfsituation im Zweifel sogar überlegen, weil sie mehr und schneller als Menschen Informationen verarbeiten könnten. Auch US-Völkerrechtler John McGinnis glaubt, dass mit künstlicher Intelligenz ausgestattete Roboter weniger Zerstörungen anrichten würden und sogar "eine zivilisierende Kraft in Kriegen" sein könnten.
Was können wir uns unter einem ethischen Gouverneur/ethical governor vorstellen?
    1942 formulierte der Science- Fiction-Autor Isaac Asimov in der Kurzgeschichte „Runaround“ drei Grundregeln:
    1. Ein Roboter darf einem Menschen durch sein Handeln oder durch Unterlassung keinen Schaden zufügen.
    2. Roboter befolgen die Befehle der Menschen, es sei denn, sie stünden im Konflikt mit der ersten Regel.
    3. Ein Roboter schützt seine eigene Existenz, es sei denn, das stünde im Konflikt mit Regel eins und/oder zwei.

    Das System wirkt zunächst simpel und effektiv, Asimov zeigte aber, dass schon diese drei Regeln miteinander in Konflikt stehen können. In der Geschichte gerät der Roboter „Speedy“, der auf dem Merkur für die Forscher Powell und Donovan für sie lebenswichtiges Selen sammeln soll, in einen Zielkonflikt. Die geologischen Gegebenheiten nahe dem Selenfeld greifen seine Hülle an, er will sich also gemäß Regel drei schützen. Gleichzeitig will er aber gemäß Regel zwei den Befehl ausführen. Da die Faktoren, die die beiden Regeln gewichten, ausbalanciert sind, fährt „Speedy“ im Kreis und bringt dadurch die wartenden Männer in der Raumstation in Gefahr – sie hatten vergessen, dem Roboter einen Dringlichkeitsfaktor einzuprogrammieren.
    [Wie viel Moral brauchen Maschinen? - Der Tagesspiegel 15.05.2013]
... wobei man einwenden könnte, dass ein Dringlichkeitsfaktor das Problem so wenig lösen würde wie Asimovs späteres Nulltes Gesetz:
0. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt,
weil Algorithmen wohl Regeln, aber nicht die Lösung von Dilemmata abbilden können (vgl. etwa Kohlbergs Theorie der Moralentwicklung). Interesssante Hinweise dazu im Vorwort zu MORAL MACHINES: TEACHING ROBOTS RIGHT FROM WRONG von Wendell Wallach and Colin Allen (2008):
    ... The task of designing AMAs requires a serious look at ethical theory, which originates from a human-centered perspective. The values and concerns expressed in the world’s religious and philosophical traditions are not easily applied to machines. Rule-based ethical systems, for example the Ten Commandments or Asimov’s Three Laws for Robots, might appear somewhat easier to embed in a computer, but as Asimov’s many robot stories show, even three simple rules (later four) can give rise to many ethical dilemmas. Aristotle’s ethics emphasized character over rules: good actions flowed from good character, and the aim of a flourishing human being was to develop a virtuous character. It is, of course, hard enough for humans to develop their own virtues, let alone developing appropriate virtues for computers or robots. Facing the engineering challenge entailed in going from Aristotle to Asimov and beyond will require looking at the origins of human morality as viewed in the fields of evolution, learning and development, neuropsychology, and philosophy.
    Machine morality is just as much about human decision making as about the philosophical and practical issues of implementing AMAs. Reflection about and experimentation in building AMAs forces one to think deeply about how humans function, which human abilities can be implemented in the machines humans design, and what characteristics truly distinguish humans from animals or from new forms of intelligence that humans create. Just as AI has stimulated new lines of enquiry in the philosophy of mind, machine morality has the potential to stimulate new lines of enquiry in ethics. Robotics and AI laboratories could become experimental centers for testing theories of moral decision making in artificial systems.

    Three questions emerge naturally from the discussion so far. Does the world need AMAs? Do people want computers making moral decisions? And if people believe that computers making moral decisions are necessary or inevitable, how should engineers and philosophers proceed to design AMAs?
Was also ist Arkins "ethischer Gouverneur" und wie ist er im Hinblick auf die drei Fragen zu bewerten?

Centrifugal_governorDie Frage lässt sich zunächst nur im Hinblick darauf beantworten, wie der engineer den ethical governor designed hat:
“The term governor is inspired by Watts’ invention of the mechanical governor for the steam engine, a device that was intended to ensure that the mechanism behaved safely and within predefined bounds of performance. As the reactive component of a behavioural architecture is in essence a behavioural engine intended for robotic performance, the same notion applies, where here the performance bounds are ethical ones.” (Arkin, 2007, Quelle: s.u.: Matthias)

Wir sind also bei Watts Fliehkraftregler von 1788 (Centrifugal governor) als dem Modell, dem der Ethikregler nachgebaut ist.
So sieht er denn auch aus:

The governor “is a transformer/suppressor of system-generated lethal action to ensurethat it constitutes an ethically permissible action, either nonlethal or obligated ethica llethal force” (Arkin et al., 2009, 1). Technically, the ethical governor is a constraint-driven system, which, on the basis of predicate and deontic logic, tries to evaluate anaction, which has in a previous step been proposed by the tactical reasoning subsystems of the machine, by satisfying various sets of constraints, such as C forbidden, C obligate and so on. Every constraint is a data structure which has a type (e.g. “prohibition”), an origin (“laws of war”), and a logical form (“TargetDiscriminated AND TargetWithinProximityOfCulturalLandmark”) among other fields (Arkin et al., 2009). Among other aims, the ethical governor is supposed to ensure the proportionality of a military response. Interestingly, the “acceptable” level of collateral damage is defined solely as a function of the military necessity of an action: (Quelle: s.u.: Matthias)

arkin_ethik

Moralisches Abwägen in einer Kampfsituation ist hier nicht erkennbar und der "ethische Gouverneur" entpuppt sich so erst einmal als fataler Übersetzungsfehler und dann als schönes Beispiel für Arschdenk. Fatal ist der Übersetzungsfehler, weil die Metapher "Gouverneur" an autonomes Handeln, Souveränität o. ä. denken lässt (ursprünglich vom griechischen Wort kybernétes (κυβερνήτης „Steuermann“), von dem auch Kybernetik und engl. cyber kommen. Dem Wortsinn nach ist ein Gouverneur somit jemand, der die Richtung vorgibt), und im Zusammenspiel mit dem Attribut ethisch die Vorstellung eines Über-Ich evozieren mag, wo doch nur ein simpler if->then-Regler in die Killerautomaten eingebaut werden soll, der irgendwie an Jamie Shea erinnert.
    Governor (disambiguation) Wir sind hier in technology:
    - Governor (device), a device that regulates the speed of a machine
    - Centrifugal governor, a type of governor that regulates fuel intake to an engine
    - The Governor, an application monitoring Blizzard game's Warden client

    und nicht in leadership!
Why the Governor Does Not Govern ... Sehr interessant weiter nachzulesen bei:
Andreas Matthias: Is the Concept of an Ethical Governor Philosophically Sound? (“Technologies on the stand: legal and ethical questions in neuroscience and robotics”, Tilburg University, Netherlands, April 11-12, 2011)

Im Übrigen:
Setzen Sie in Arkins Matritze in der 1. Spalte für "Military Necessity" probeweise "Financial Markets' Necessities" oder auch nur "Notwendigkeiten zur Euro-Rettung" ein, dann haben Sie die behavioural architecture des Handelns der Bundesregierung erfasst und bemerkt, dass sich das auf den Moralstufen 1 und 2 bewegt, - wenn überhaupt ....

Siehe unten: Moral:
    „Kurz, also was Moral heute vielleicht überhaupt noch heißen darf, das geht über an die Frage nach der Einrichtung der Welt – man könnte sagen: die Frage nach dem richtigen Leben wäre die Frage nach der richtigen Politik, wenn eine solche richtige Politik selber heute im Bereich des zu Verwirklichenden gelegen wäre.“ (Th. W. Adorno, Probleme der Moralphilosophie. Vorlesungen 1963)
In diesem Zusammenhang sei nochmals hingewiesen auf:
Heribert Prantl: Deutschland, ein Tatort
Was bedeutet das Dirigieren der US-Exekutions-Drohnen von Deutschland aus? Entweder die Bundesrepublik ist nicht wirklich souverän – dann ist sie arm dran. Oder Deutschland ist ein williger Helfer bei Straftaten und Menschenrechtsverletzungen. Dann machen sich die Regierenden strafbar…
Via Drohnendesaster und Fähigkeitslücke für zivilen Aufbau. Oder: Mach mir den Immelmann-Turn (II): Rot-grünes Drohnenkonzept

Siehe aber auch:
Projektionsfläche Amerika - Was der deutschlandweit grassierende Antiamerikanismus über die Zustände in der machtpolitisch aufstrebenden Bundesrepublik verrät - Tomasz Konicz tp 21.08.2013:
Je größer die Ähnlichkeit zwischen der Bundesrepublik und den USA, desto stärker schäumt hierzulande der Antiamerikanismus hoch

Trackback URL:
http://gebattmer.twoday.net/stories/453141718/modTrackback

Wise Man Says

"Es gibt so viele Arschloch-Typen wie es menschliche Funktionen, Tätigkeiten und Interessengebiete gibt. Und auf jedem Gebiet kann das Verhältnis von AQ zu IQ ein anderes sein. Kein noch so kopfdenkerisches Verhalten bei einem Thema bietet Gewähr dafür, dass nicht schon beim nächsten der Arschdenk mit voller Wucht einsetzt." Charles Lewinsky, Der A-Quotient

Wise Man Says II

"The illusion of freedom will continue as long as it's profitable to continue the illusion. At the point where the illusion becomes too expensive to maintain, they will just take down the scenery, they will pull back the curtains, they will move the tables and chairs out of the way and you will see the brick wall at the back of the theater." Frank Zappa

Haftungsausschluss

The music featured on this blog is, of course, for evaluation and promotion purposes only. If you like what you hear then go out and try and buy the original recordings or go to a concert... or give money to a down on his luck musician, or sponsor a good busker, it may be the start of something beautiful. If your music is on this blog and you wish it removed, tell us and it shall be removed.

Archiv

Januar 2018
Dezember 2017
November 2017
Oktober 2017
September 2017
August 2017
Juli 2017
Juni 2017
Mai 2017
April 2017
März 2017
Februar 2017
Januar 2017
Dezember 2016
November 2016
Oktober 2016
September 2016
August 2016
Juli 2016
Juni 2016
Mai 2016
April 2016
März 2016
Februar 2016
Januar 2016
Dezember 2015
November 2015
Oktober 2015
September 2015
August 2015
Juli 2015
Juni 2015
Mai 2015
April 2015
März 2015
Februar 2015
Januar 2015
Dezember 2014
November 2014
Oktober 2014
September 2014
August 2014
Juli 2014
Juni 2014
Mai 2014
April 2014
März 2014
Februar 2014
Januar 2014
Dezember 2013
November 2013
Oktober 2013
September 2013
August 2013
Juli 2013
Juni 2013
Mai 2013
April 2013
März 2013
Februar 2013
Januar 2013
Dezember 2012
November 2012
Oktober 2012
September 2012
August 2012
Juli 2012
Juni 2012
Mai 2012
April 2012
März 2012
Februar 2012
Januar 2012
Dezember 2011
November 2011
Oktober 2011
September 2011
August 2011
Juli 2011
Juni 2011
Mai 2011
April 2011
März 2011
Februar 2011
Januar 2011
Dezember 2010
November 2010
Oktober 2010
September 2010
August 2010
Juli 2010
Juni 2010
Mai 2010
April 2010
März 2010
Februar 2010
Januar 2010
Dezember 2009
November 2009
Oktober 2009
September 2009
August 2009
Juli 2009
Juni 2009
Mai 2009
April 2009
März 2009
Februar 2009
Januar 2009
Dezember 2008
November 2008
Oktober 2008
September 2008
August 2008
Juli 2008
Juni 2008
Mai 2008
April 2008
März 2008
Februar 2008
Januar 2008
Dezember 2007
November 2007
Oktober 2007
Juli 2007
Juni 2007
Mai 2007
April 2007
März 2007
Februar 2007
Januar 2007
Dezember 2006
November 2006
Oktober 2006
September 2006
August 2006
Juli 2006
Juni 2006
Mai 2006
April 2006
März 2006
Februar 2006
Januar 2006
Dezember 2005
November 2005
Oktober 2005
September 2005
August 2005
Juli 2005
Juni 2005
Mai 2005
April 2005
März 2005
Februar 2005
Januar 2005

Credits

vi knallgrau GmbH

powered by Antville powered by Helma


xml version of this page

twoday.net AGB


Aesthetik
Archäologie
Ästhetik des Widerstands
Aus der sozialen Überdruckkammer
Bildung
Futurologie
Kritische Psychologie
Lernen
Literatur unterrichten
Medial
Musik
Musikarchiv
Politik unterrichten
Trash
Unterrichten
Welterklaerung
Profil
Abmelden
Weblog abonnieren