CHCIEĆ!
 1. AI samoistnie  nie stanie się, ......ani... „póki co"... ani nigdy, 
 superinteligencją, która miałaby ochotę podporządkować sobie człowieka . To twarde ograniczenie!
2. Czy AI byłaby kiedyś w stanie prowadzić wojny?  -Już nie tak twarde. Tym  bardziej groźne, bo ochotę na zastosowanie AI do prowadzenia wojny wojskowi będą mieli. A  przekonanie czy  jest do tego zdolna może okazać się zbyt niszczące dla wszystkich  uczestników konfliktu.
Wracając do punktu (1) dlaczego nie musimy bać się zdominowania i wyeliminowania nas  przez AI. 
Żeby  to zrozumieć  trzeba wiedzieć czym jest biologiczna ewolucja.
Jesteśmy zasadniczo różni od małp ale jednocześnie jesteśmy identyczni  z najprymitywniejszymi formami życia.
Nawet te najprymitywniejsze  mają wspólną  cechę
 z nami  i ze wszystkimi innymi  różnorodnymi  mieszkańcami zasiedlającymi Ziemię.
-Chcą za wszelką cenę żyć.
Każde życie  chce  za wszelką cenę żyć  -Od momentu zaistnienia  jest wyposażone w ten imperatyw . Od momentu narodzin  i od momentu pokazania się pierwocin życia na ziemi.
Bez tego imperatywu ewolucja biologiczna nie mogłaby  działać. 
Imperatyw istnienia jest silnikiem ewolucji  biologicznej, bez niego nie byłoby różnorodności biologicznej, nie byłoby biologii, nie byłoby nas. 
Jeśli AI  nie wyposażymy  w ten imperatyw to superinteligentnej AI będzie obojętne,  w równym stopniu jak kartce papieru z napisanym na niej wzorem E=MC2  czy będzie, czy nie będzie istnieć i w jakim do cholery celu miałaby robić z nas niewolników.
pomimo, że mogłaby to zrobić. 
Czy AI wygrywająca z człowiekiem w GO cieszy się ze swojego zwycięstwa czy jest jej to obojętne? Można oczywiście wbudować w jej algorytm "ciesz się" Tylko po co?