Künstliche Intelligenz: KI und Super-KI

Bei KI muss man zwischen schwachen, zweckorientierten Systemen (Weak, Narrow AI) und Allgemeinen Künstlichen Intelligenzen (Artificial General Intelligence, AGI) unterscheiden.

• Schwache Intelligenz Heutige KI-Systeme können meist nur sehr spezifische Probleme lösen (Go spielen, Auto fahren, Business-Daten bewerten …).
• Allgemeine Intelligenz AGI lösen nicht nur einzelne Aufgaben, sondern denken auch über Lösungswege für neue Aufgaben nach. Reflektieren sie zusätzlich über sich, um sich selbst zu vervollkommnen, kann man von einer Superintelligenz sprechen.

Asimovs Robotergesetze

Der amerikanische Science-Fiction-Autor Isaac Asimov (1919–1992) reflektierte über Maschinenethik. 1983 formulierte er in The Robots of Dawn diese Fassung seiner Robotergesetze.

1. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.
2. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz.
3. Ein Roboter muss den Befehlen der Menschen gehorchen – es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz.
4. Ein Roboter muss seine eigene Existenz schützen, solange sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht.