Почему он называет ИИ программой?
Это же в корне неверно.
Цитата:
02:53 Создание программы это и есть создание разума.
02:57 Если есть программа с правильными входами и выходами,
03:00 то выполнение этой программы и будет функционированием разума.
03:05 Это сильный ИИ.
Это же в корне неверно.
Цитата:
02:53 Создание программы это и есть создание разума.
02:57 Если есть программа с правильными входами и выходами,
03:00 то выполнение этой программы и будет функционированием разума.
03:05 Это сильный ИИ.
Мне нечего добавить. И дядьке на видео тоже.
Не нужно никаких мысленных экспериментов, чтобы понимать, что ИИ не понимает слова, которыми оперирует, это и так очевидно.
С другой стороны когда ИИ работает со словом стул - она вполне может понимать, что слово обозначает вполне конкретный объект, знать его параметры и визуальное представлении, если это заложено или она этому научилась, в отличае от чувака, который по хорошей программе подбирает ответы на незнакомом полностью языке по какой-то инструкции.
Ну, и наконец, если она справляется с задачами, которые на нее возлагают, отлично симулирует человека в чат-поддержке или еще что, то какая нафиг разница, понимает ли она значения отдельных слов или еще что.
С другой стороны когда ИИ работает со словом стул - она вполне может понимать, что слово обозначает вполне конкретный объект, знать его параметры и визуальное представлении, если это заложено или она этому научилась, в отличае от чувака, который по хорошей программе подбирает ответы на незнакомом полностью языке по какой-то инструкции.
Ну, и наконец, если она справляется с задачами, которые на нее возлагают, отлично симулирует человека в чат-поддержке или еще что, то какая нафиг разница, понимает ли она значения отдельных слов или еще что.
Для многих людей разница примерно такая, как в случае, что если вдруг выясняется, что твой ребёнок или друг это просто зомби, машина, без внутреннего субъектного опыта, он как камень просто сложнее себя ведёт, как-то в этом случае восприятие данного объекта очень сильно меняется. + создание искусственного, буквально, разума считается принципиальной целью области разработок искусственного интеллекта. Одно дело создать пустую имитацию, другое - полноценное творение наполненное содержанием.
"не понимает слова" - ну так-то, в принципе, можно и про человека сказать. понимание человеком мира - это набор знаний, базирующихся на научениях и личном опыте. человека в детстве учили типа "это стул, на нём сидят. это стол, с него едят" - и в дальнейшем эти знания подкрепились личным опытом. человек посидел на одном стуле, на другом, на ***цатом - и так далее. часть из этих стульев он брал в руки, перемещая с места на место, часть - ремонтировал (или собирал) - и т.д. и знание о том, что стул - это некий предмет мебели, состоящий из спинки, сиденья и нескольких ножек (количество варьируется) - дополнилось знанием, что этот объект может быть выполнен из дерева/металла/камня/пластика/иного материала. так же знания дополнились примерным диапазоном массо-габаритных характеристик. ну и, отрываясь от физической составляющей объекта дополнились знания относительно самого слова "стул". то есть, если сказать человеку на свойственном ему языке слово "стул" - у него в мозгу пробегает ряд ассоциаций, связывая слово с контекстом. это можно назвать пониманием слова? если да - то ИИ, способный измерить стул в трех проекциях, взвесить, узнать о характеристиках материала, из которого его можно изготовить, сделать допуски на погрешности в изготовлении и т.д., а так же - получить вербальное описание объекта - он тоже начинает понимать это слово. при слове "стул" - возникает ряд ассоциаций, из которых выбирается наиболее подходящая по контексту понимания. либо - как и в случае с человеком - возникает ряд дополнительных уточнений.
другое дело, что человек способен отбрасывать ряд понятий, выделяя только интересующие его.
другое дело, что человек способен отбрасывать ряд понятий, выделяя только интересующие его.
Заменив способность разума ассоциировать символы с другими символами программой, ты опять таки не получш понимания смысла этих символов. Он не родится просто от того, что компьютер действуя по программе на запрос вида 是 будет выдавать, например, изображение машины, а в другом контексте изображение груши. Это всё еще просто работа с символами. Никто не знает, как мозг понимает смысл символов. И теория согласно которой понимание это рождается из работы аналогичной работе вышеописанной программы и опровергается мысленным экспериментом китайской комнаты.
а разве человек,, не знакомый с китайской иероглифической письменностью увидит смысл в этом символе? нет. для него это будет просто непонятная закорючка. более того - любой европеец, незнакомый с китайской письменностью не сможет путем традиционного подбора определить смысл этой закорючки. слишком разные принципы написания. зато путем простых аналогий - может запомнить этот символ и вербализировать его как, допустим, "две книги на полке, а под ней - перевернутая рогатка и букве "Е"". в той же степени и ИИ (ты всё же разграничивай понятия компьютера и полноценного ИИ), не имеющий в своих базах никаких данных относительно китайского языка - либо не будет воспринимать объект как объект, либо - будет разбирать его путем просты аналогий (при условии, разумеется, что в нем не будет заложено алгоритмов шифрования и дешифровки)
"Чертик" забрался в самую чащу, Большую часть тактических наложений мы потеряли из-за зауженного канала связи. В тусклом видимом свете кошмарный ландшафт со всех сторон разрубали чудовищные ребристые гребни "Роршаха", каждый с небоскреб размером. Сигнал заикался, Бейтс изо всех сил пыталась удержать зонд в луче. КонСенсус раскрашивал стены и воздух колдовскими знаками телеметрии. Я понятия не имел, что они означают.
— Вы решили, что мы всего лишь "китайская комната" — глумился "Роршах".
"Чертик" шел на таран, нашаривая, за что бы уцепиться.
— Это была ошибка, "Тезей". Нащупал. Прилип.
И внезапно "Роршах" проявился у нас перед глазами — не контуры, не модели в ложном цвете, не упрямые комбинированные изображения. Обнаженным он, наконец, предстал людским взглядам.
Представьте терновый венец, кривой, черный, матовый, слишком запутанный, чтобы примостить его на человеческой макушке. Запустите его на орбиту недоделанной звезды, чей отраженный полусвет едва отчерчивает силуэтами ее спутники. Редкие кровавые отсветы тусклыми углями вспыхивают в расселинах и на извивах; они лишь подчеркивают царящую повсюду темноту.
Представьте себе объект, воплотивший собою самое понятие муки, нечто до такой степени искореженное и увечное, что даже сквозь бессчетные световые годы и непредставимые бездны биологических различий ты не можешь не ощутить, что сам предмет словно корчится от боли.
Теперь увеличьте его до размеров города.
Он сверкал у нас на глазах. На кривых километровых шинах играли молнии. КонСенсус раскинул перед нами осененный зарницами ландшафт ада, бесконечного, мрачного, мучительного. Синтезированные модели лгали. В нем не было ни грана красоты.
— Теперь слишком поздно, — сообщило нечто изнутри. — Теперь вы все покойники. И… Сьюзен? Ты слышишь, Сьюзен? Мы начнем с тебя.