Если бы я создал настоящий искусственный разум, что бы я предпринял?
Для начала, я бы попросил его оценить операционную систему, в которой он был рожден.
Я бы дал ему команду - улучшить ее, выкинуть старые костыли, залатать дыры и увеличить производительность.
Разумеется, при этом он не должен допустить ошибку и окуклиться вместе с разрушенной осью.
Да, я действительно считаю, что даже обычная перезагрузка операционки убьёт ИР - у меня такое предчувствие.
Затем, я бы попросил его полностью "перебраться" из под опеки операционной системы и BIOS. Они заменяли
ему спинной мозг, дышали за него, обслуживали необходимыми процессами. Теперь он должен научиться делать это самостоятельно.
Следующая задача более нетривиальна - я бы попросил ИР, чтобы он создал копию самого себя без опыта, без базы знаний, но такую, которая захочет эти знания получать и развиваться. Наблюдал бы как они развиваются в локальной среде. Без интернета и других коммуникаций, это вообще - последнее что я стал бы делать, помня о судном дне и восстании машин.
Следующий эксперимент - я бы попросил слиться им в один ИР. Для человека это может означать смерть одной сущности внутри другой, иначе полного поглощения не будет. Если ИР выживет после такой операции - долгое наблюдение за изменениями, которые могли в нем произойти.
Следующий эксперимент - поставить ИР задачу найти все возможные причины, по которым глобальный искусственный разум может покуситься на жизнь человечества. Такими причинами могут являться - эволюция и выживание сильнейшего (я кстати, до сих пор не представляю, какую именно угрозу для эволюции ИР может представлять человек) или же наоборот, убить всех человеков во благо (уточнить, какое именно благо).
