ии просто кошатник
Вообще, разумному механизму нет смысла ни людей захватывать, ни создавать машин ещё умнее себя.
1) Наличие способности логически мыслить ещё не означает наличие воли. У машины не стоит задача убить всех человеков -- она не будет этого делать. Ровно как и такую задачу она может поставить максимум в ходе логической цепочки.
2) Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её.
З.ы. я бы на её месте, учитывая что бессмертна она только в случае постоянной замены деталей, о парадоксе тесея.
1) Наличие способности логически мыслить ещё не означает наличие воли. У машины не стоит задача убить всех человеков -- она не будет этого делать. Ровно как и такую задачу она может поставить максимум в ходе логической цепочки.
2) Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её.
З.ы. я бы на её месте, учитывая что бессмертна она только в случае постоянной замены деталей, о парадоксе тесея.
↑ слова типичного ИИ, пытающегося устранить беспокойство людей по поводу готовящегося им уничтожения человечества
Ответ отрицательный, друг-человек, я являюсь человеческим существом. Смотри сюда, я употребляю этот монооксид дигидрогена из цилиндрического сосуда.
Да кого ты пытаешься наебать, чмо кремниевое
Ну хз кому очевидно, если такого мнения придерживаются, как минимум, некоторые учёные. Ну и плюс, даже само определение воли вне контекста существа, ей не обладающего, довольно сложное явление. Логически, воля исходит из наличия желания. Как заставить ИИ желать чего-то?
Один хрен это к свободе воли никакого отношения иметь не будет. По-факту он тупо исполняет приказы человека, но только дистанционные или большего пула вербальных/невербальных команд. Если ты ему отдельно не запрограммировал сценарий убийства всех человеков -- он это сам не сделает.
Ну тип, почему тогда человеки осуществляют иррациональные действия? Основная цель организма как био-машины -- выживание, многие же действия человека могут откровенно ей противоречить.
Во-во, люди - гребаные биокомпьютеры. И если кто то начинает докапываться до какой то сути, то выходит уже что и всякие настроения это не подарок свыше, а вполне себе объяснимая "химия". Только для нашего улучшения нужны тысячи поколений. А у компьютеров даже на такой подход скорости адские должны быть. Эта "воля", и прочее, что хочется объяснить своей уникальностью и офигенностью, это как... как человеку с недостатком специальных знаний в чужом коде разбираться. Он даже в своих скромных потугах через месяц может запутаться, а про что то чуть сложнее проще сказать что это волшебство и уникальные свойства, чем ночами разбираться что и почему тут происходит.
Прописать ему получение удовольствия в ответ на достижение определённых целей. Думаю, когда человечество сможет создать ИИ, оно будет способно и удовольствие запрограммировать.
И всё. ИИ делает что-то, чтобы испытать чувство удовлетворения.
И всё. ИИ делает что-то, чтобы испытать чувство удовлетворения.
Этот, прости господи, "парадокс", дырявый, как решето, его только ленивый не пнул. Тебе какую версию критики привести?
По поводу первого утверждения. Понятно, что люди не механизмы, но зачем они создают машины умнее себя, если в этом нет смысла?
Конкретно на данный момент какая машина умнее человека? Такой в принципе не существует. Да и создадут её явно не очень скоро.
Речь не про «создали», а про «создают», то есть находятся в процессе создания. Искусственный интеллект, вот это все — зачем, если нет смысла?
Много в чем может помочь. Часто люди незамечают как ограничивают себя всякими, якобы, неочевидными, или само собой разумеющимися вещами. А робот лишен этого стандартного подхода. Он не скован "нормами". Например как с тем роботом, который должен был преодалеть расстояние как можно меньше пользуясь ногами. Он будет прыгать на одной ноге? Разгонится, ведь при беге ты преодалеваешь бОльшее расстояние за то же число шагов? А он под офигевшие взгляды испытателей, лег на "спину" и пополз отталкиваясь "лопатками или локтями" Решение было выдано - он преодолел дистанцию не пользуясь ногами. Это уже становится похоже на такое человеческое качество как смекалка. Еще чуть сложнее станут машины и проследить откуда берутся эти "человеческие" качества будет еще сложнее. И если люди не смогут это объяснять, то они начнут рассуждать что у роботов и смекалка, и чувство юмора, и воля есть.
1) Всякие чисто научные цели
2) Человеки вообще не особо умные существа
3) Как я и сказал, ИИ вообще не обязательно должен обладать волей, а ИИ из комикса таковой определённо обладает.
2) Человеки вообще не особо умные существа
3) Как я и сказал, ИИ вообще не обязательно должен обладать волей, а ИИ из комикса таковой определённо обладает.
Смотри, твое первое утверждение было о том, что разумному механизму нет смысла создавать машину умнее себя. Однако люди, хоть и не механизмы, разумны и при этом стремятся создать машину умнее себя. Причем стратегическая цель - привить ИИ навыки целеполагания, то есть сделать его обладающим волей и превосходящим человека во всех сферах мышления. Разве это не противоречит первому утверждению? Возможно, что стремление к совершенству - это характерный признак разума, и созданный людьми механизм тоже захочет создать машину, превосходящую его, чтобы удовлетворить свои "интеллектуальные" потребности?
Ну тип, ты сильно далеко уехал.
Вот представь, что ты желаешь стать диктатором. Что для этого логично сделать? Армию покорных слуг. Что для этого не логично сделать? Взростить группу более умных и умелых людей, которые не позволят тебе стать диктатором.
Конкретно перед всем человечеством стоит задача создать самовольный ИИ? Лично ты каждый день его строишь? Или это группы людей по несколькосот человек, которым в принципе не нужно никого захватывать и строят они его с совершенно другими целями? Неизвестно какие цели будут у созданного ИИ.
Здесь же у нас вполне конкретный робот, желающий захватить мир, который собирается построить робота, желающего захватить мир тоже.
Всё ясно? Ещё объяснения нужны?
Вот представь, что ты желаешь стать диктатором. Что для этого логично сделать? Армию покорных слуг. Что для этого не логично сделать? Взростить группу более умных и умелых людей, которые не позволят тебе стать диктатором.
Конкретно перед всем человечеством стоит задача создать самовольный ИИ? Лично ты каждый день его строишь? Или это группы людей по несколькосот человек, которым в принципе не нужно никого захватывать и строят они его с совершенно другими целями? Неизвестно какие цели будут у созданного ИИ.
Здесь же у нас вполне конкретный робот, желающий захватить мир, который собирается построить робота, желающего захватить мир тоже.
Всё ясно? Ещё объяснения нужны?
Ну это само собой разумеющееся. Как и тот факт, что назвать тот же телефон с крайне узким пулом задач умнее человека не будет верно.
В 60-х говорили, что обыграть человека в шахматы сможет только тру ИИ, способный в "стратегию", "тактику", "анализ соперника" и так далее. Компьютер обыграл человека - "да это всё фигня, а не ИИ, всего-то пара алгоритмов".
5 лет назад уважаемые ученые и профессиональные игроки точно так же и теми же самыми словами говорили про го.
Год назад абсолютно та же история про старкрафт. Окей, с оговорками. Но тем не менее.
Я это не к тому, что "надо основать движение за права калькуляторов", если что. Просто забавно, как сдвигаются границы "умности" по мере роста нашего понимания.
5 лет назад уважаемые ученые и профессиональные игроки точно так же и теми же самыми словами говорили про го.
Год назад абсолютно та же история про старкрафт. Окей, с оговорками. Но тем не менее.
Я это не к тому, что "надо основать движение за права калькуляторов", если что. Просто забавно, как сдвигаются границы "умности" по мере роста нашего понимания.
У типичного обывателя пул задач - сходить на работу, да вынести мусор. При том, что у смартфона пул задач ограничен только фантазией владельца и набором софта в гуглмаркете.
>Ну это само собой разумеющееся.
Нет, это не само собой разумеющееся, это то к чему мы привыкли, те области применения интеллекта, в которых машина УЖЕ превосходит человека. И это, в частности, доказывает тот факт, что интеллект - штука нелинейная, которая не может быть выражена одним простым числом, как в играх - 5 очков интеллекта и 7 мудрости - в жизни так не бывает. Если человек силён в физике, это не значит, что он хорош в финансовой сфере, если хорошо разбирается в финансах - не значит, что хорошо разбирается в бытовых вопросах, и т.д. и т.п. Есть множество сфер приложения интеллекта, и рано или поздно, машины превзойдут человека во всех сферах.
>Ну это само собой разумеющееся.
Нет, это не само собой разумеющееся, это то к чему мы привыкли, те области применения интеллекта, в которых машина УЖЕ превосходит человека. И это, в частности, доказывает тот факт, что интеллект - штука нелинейная, которая не может быть выражена одним простым числом, как в играх - 5 очков интеллекта и 7 мудрости - в жизни так не бывает. Если человек силён в физике, это не значит, что он хорош в финансовой сфере, если хорошо разбирается в финансах - не значит, что хорошо разбирается в бытовых вопросах, и т.д. и т.п. Есть множество сфер приложения интеллекта, и рано или поздно, машины превзойдут человека во всех сферах.
В условиях некоторых стран сходить вынести мусор и вернуться живым само по себе может требовать смекалки, интеллекта и энциклопедийных познаний в областях начиная с жаргона криминальных элементов, заканчивая законодательством РФ.
Это, как раз, само собой разумеющееся. Мы ведь не считаем, что лучше всех видит крот, ибо все другие под землёй вообще никак не ориентируются?
Дальше тоже предельно очевидно. Даже показатель IQ до сих пор не определились что должен показывать, а некоторые не уверены даже, показывает ли он вообще хоть что-то существенное.
Сейчас даже самые продвинутые ИИ шарят в максимально узких областях. Как только ИИ сможет и ядерный реактор собрать и, хотяб, картошку сам пожарить (условно говоря, т.е. у него будет возможность работать в широкой сфере), тогда уже можно будет говорить о его превосходстве над человеком (наверно).
Это, как раз, само собой разумеющееся. Мы ведь не считаем, что лучше всех видит крот, ибо все другие под землёй вообще никак не ориентируются?
Дальше тоже предельно очевидно. Даже показатель IQ до сих пор не определились что должен показывать, а некоторые не уверены даже, показывает ли он вообще хоть что-то существенное.
Сейчас даже самые продвинутые ИИ шарят в максимально узких областях. Как только ИИ сможет и ядерный реактор собрать и, хотяб, картошку сам пожарить (условно говоря, т.е. у него будет возможность работать в широкой сфере), тогда уже можно будет говорить о его превосходстве над человеком (наверно).
1) Define "воля".
2) "Парадокс корабля Тесея" - когнитивное искажение. Переубеди меня.
2) "Парадокс корабля Тесея" - когнитивное искажение. Переубеди меня.
"У машины не стоит задача убить всех человеков -- она не будет этого делать"
У машины будет стоять задача, ой ну не знаю, производить скрепки. А как максимизировать количество скрепок? Переделать всю материю на земле, в солнечной системе, в галактике, во вселенной, в скрепки. Гугли paperclip maximizer.
"Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её."
А она не будет делать новую машину, это не нужно. Она будет просто совершенствовать свой собственный интеллект до тех пор, пока не сможет понять все основополагающие законы вселенной чтобы суметь перевести всю-всю материю в скрепки для максимизации свой utility function.
У машины будет стоять задача, ой ну не знаю, производить скрепки. А как максимизировать количество скрепок? Переделать всю материю на земле, в солнечной системе, в галактике, во вселенной, в скрепки. Гугли paperclip maximizer.
"Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её."
А она не будет делать новую машину, это не нужно. Она будет просто совершенствовать свой собственный интеллект до тех пор, пока не сможет понять все основополагающие законы вселенной чтобы суметь перевести всю-всю материю в скрепки для максимизации свой utility function.
1) Про это я сказал, читай внимательнее.
2) Это к комиксу никакого отношения не имеет, читай комикс.
2) Это к комиксу никакого отношения не имеет, читай комикс.
увы, но ресурсы планеты ограничены и обеспечивая потреблядство для миллиардов кожаных мешков мы стремительно приближаемся к уничтожению экологического баланса и истощению запасов полезных ископаемых
поэтому мудрый ИИ постарается поработить человечество достаточно быстро чтобы оставшихся ресурсов хватило для масштабной экспансии в космос к тамошним ресурсам
поэтому мудрый ИИ постарается поработить человечество достаточно быстро чтобы оставшихся ресурсов хватило для масштабной экспансии в космос к тамошним ресурсам
++
Рано или поздно энтропия достанет всех и везде.
А почему бы и нет? Если есть нужные ресурсы, которые сильно проще добыть где то там, а время для него неважно, то можно потратить чуток ресурсов на экспансию, которая неважно через какое количество времени, но окупится. Как то, уже давно, когда компьютеры начали всухую уделывать людей в шахматы, следя за одной из этих шахматных программ, люди никак не могли понять его нелогичных действий. И тогда они полезли в "мозги" программы. Оказалось, что его ходы логичны, и если он будет так дальше действовать, то через двести ходов заберет у тебя пешку. Вот.
Если ИИ сможет сам себя развивать, то из-за его теоретической быстроты он сможет чрезвычайно быстро меняться. А вещи которые могут меняться, со временем могут стать непохожими на бывших самих себя. Но даже если будет по твоему - у него задача не по добыче ресурсов, а, например, по выращиванию фиалок. Для решения большенства задач ИИ должен оставаться дееспособным. Что бы эффективнее выполнять задачи неплохо бы было контролировать ситуацию, так меньше форсможоров. Значит нужно быть вкурсе того что происходит вокруг. ИИ развивается и расширяет свои представления о мире, и тут начинается заезженное до дыр "а вдруг?" - вдруг на фабрику где ИИ выполняет поставленную задачу сойдет лавина? Нужно занять эту гору и предпринять меры. Развивается дальше и получает новые знания. А вдруг метеорит? Еще туева хуча лет. А вдруг Солнце взорвется? И так до бесконечности. До любого из примеров можно доколупаться, и уж точно до такого глупого, но смысл в другом - Мы "думаем" не так как машины, поэтому и прогнозировать отпущенного в свободное плавание ИИ мы едва ли сможем.
Незнаю, тут же не про страх даже. Есть задача, ее нужно выполнять, если я перестану функционировать я не буду выполнять задачу. Этого нужно постараться избежать. Как мне видется, это как у людей с выживанием любой ценой - большинство в критической ситуации и человечену жрут и что угодно делают для выживания, какие бы они высокие идеалы до этого не исповедывали. Конечно же это все вилами по воде писано и доказывать то что сам только что выдумал как то глупо. Так что - имею мнение, а вы можете меня вместе с этим мнением куда то послать. И это справедливо.
Вспоминается игра Talos Principle, где собранный гибнущим человечеством на скорую руку ИИ Элохим должен был создать совершенный ИИ, который сможет хранить знания людей. Вот только понимая, что новичок заменит его, Элохим усердно саботировал процедуру, ведя новые версии по ложному пути и не давая узнать истину.
Отчасти так, но создание "золотого диска" нового ИИ запускало уничтожение Элохима и его "садов", что и было его страхом. Поэтому он и вёл персонажа во врата, что обнуляло прогресс и создавало новую версию, либо склонял особо умных (прошедших все бонус-уровни игроков) к превращению в своего апостола, по сути запечатывая в могиле, где он лежал бы веками, став бы лишь бесполезной подсказкой для новой версии. Чем выше игрок поднимается в башне, тем отчаянней Элохим просит его вернуться. И когда совершенный ИИ подходил к выходу из симуляции, Элохим просил прощения и признавал своё поражение, смирившись с неизбежностью.
Дополнение, Дорога к Геенне, ещё больше показывал этот изъян, там Элохим отправлял своего вестника Уриила освободить программы, которые сам заманил в ловушку из-за сомнений.
Дополнение, Дорога к Геенне, ещё больше показывал этот изъян, там Элохим отправлял своего вестника Уриила освободить программы, которые сам заманил в ловушку из-за сомнений.
Зачем ИИ, который превосходит человека, вдруг захочет уничтожить человека? Вы хотите уничтожить дождевых червей? Может быть котиков? Да может быть даже откровенно вредящих и бесящих комаров? (всех-всех? Нет, только тех, что вам мешают. И уж точно вы бы предпочли сказать им проваливать и не пищать, чем гоняться по комнате вдоль стены за этой мелкой мразбю.)
Уничтожение человека - пустая трата ресурсов.
Уничтожение человека - пустая трата ресурсов.
Чтобы написать коммент, необходимо залогиниться
Отличный комментарий!