-Czy chciałbyś posiadać BMW za milion,
wyposażone w wolną wolę ?
- Wątpię, bo przestałby być twoją własnością.
-Teoretycznie można sobie wyobrazić
skonstruowanie samodoskonalącej się inteligencji,
która jest w stanie i.... ma ochotę na
zdominowanie,
mniej od niej inteligentnej ludzkości.
tylko po co My
mielibyśmy to sobie robić?
Gdyby jednak ktoś się tego podjął musiałby
zaprojektować taki cel wstępnie,
a nie oczekiwać, że się wyłoni na drodze ewolucji.
-Maszyny robią to i tylko to do czego są zaprojektowane,
i nie zmienia tego nawet
ich zdolność do uczenia się.
Jak to działa w ewolucji biologicznej?
Czy inteligencja była celem ewolucji?
Już najprostsze formy życia
podlegają imperatywowi zachowanie istnienia.
Ba,
siłą napędową ewolucji biologicznej jest ten imperatyw.
Ewolucja poza nim nie ma żadnego innego celu!
Inteligencja w biologi wykształciła się nie po to aby być inteligentna, tylko
po to
aby w się stale zmieniających się warunkach nie sczeznąć.
Nie ma powodu aby najbardziej inteligentne maszyny
nie były obojętne wobec "być albo nie być"
Nie ma powodu aby na drodze ewolucyjnej nabyły imperatyw istnienia, skoro go wcześniej nie miały ( w biologi maja go od momentu powstania) jeśli nie zostały wcześniej odpowiednio zaprogramowane.
