Künstliche Intelligenz – Chancen und Risiken
AI-Alignment

Die vorliegende Studie hat zum Ziel, ein tieferes Verständnis für die zentrale Frage zu vermitteln, auf welche Art und Weise KI-Systeme auf menschliche Ziele und Werte ausgerichtet werden können, ohne unerwünschte und negative Konsequenzen in Kauf nehmen zu müssen (AI-Alignment). AI-Alignment ist eine essenzielle Voraussetzung für eine sichere und ethisch vertretbare Nutzung moderner KI-Technologien.
(https://de.wikipedia.org/wiki/AI-Alignment)

Sehr viele Entwickler, Institutionen und Forscher setzen sich dafür ein, dass die Entwicklung der KI einer werteorientierten Begleitung unterworfen wird. Es bestünde die Gefahr, dass sich diese Systeme verselbstständigen könnten und Fake-News produzieren oder sogar menschlichen Interessen zuwiderlaufende Entscheidungen treffen und vorschlagen könnten. Sobald KI aber eigenständige Handlungen durchführen kann, könnte der Zeitpunkt gekommen sein an dem es selbstständig den vermeintlich sicheren „Notaus-Knopf“ totschalten und smarte Systeme übernehmen könnte. Was als soziologischer und politischer Alptraum daher kommt, wäre ein militärischer Super-Gau!

https://www.vditz.de/fileadmin/Publikationen/VDI_TZ_AI-Alignment_-_Eine_zentrale_Herausforderung_unserer_Zeit_Juni_2025_Band_109.pdf