Abschätzbarkeit der Konsequenzen, Emergenzeffekte

Welche Effekte sollen/ dürfen von Nutzern (nicht) erkannt werden? Welche Effekte sollen/ dürfen (nicht) erwartet werden?

Inwieweit ist diese notwendige Abschätzbarkeit Bedingung für den Einsatz? Wo entstehen evolutionäre Risiken?

BEISPIEL: geringe Abschätzbarkeit: Lernende Algorithmen; Kombination vieler Pharmaka; Erzeugung von Biofakten | hohe Abschätzbarkeit: Alltagsgeräte, denen (noch) nicht das Prädikat Smart… anhaftet: Spülmaschine, DVD-Player, Radiowecker etc.

BESCHREIBUNG: Aus MTR-Formen mit intelligenter Technologie können Effekte entstehen, die der N nicht im Sinne von zweckgerichteter Techniknutzung bezweckt hat. Komplexe vernetzte Systeme neigen zu Emergenzeffekten, also Systemverhalten, das nicht vorhersehbar bar. Die Fähigkeit zu innovativem Verhalten (etwa bei der Lösungssuche) ist eine der Bedeutungen technischer Autonomie. Die Dimensionenfragen II.a.3 zielen auf die Vorhersagbarkeit von Einzel- wie Gesamteffekte von MTR, kurz- wie langfristig.