Es gibt viele Mahner, die vor den Gefahren durch die „KI-Machtübernahme“ warnen. Das sind teilweise wirklich hochkarätige Menschen, wie etwa der Nobelpreisträger Geoffrey Hinton. Das sind nicht irgendwelche aufmerksamkeitsheischendenn Bedenkenträger, diese Menschen wissen, was sie tun und sagen.
Im Kern geht es dabei um die Möglichkeit einer AGI, einer allgemeinen künstlichen Intelligenz, die intelligenter als Menschen werden und dann möglicherweise eigene Ziele verfolgen könnte.
(mehr …)