Не стоит им выходить в наш интернет. Ох не стоит...
19.04.2021, 16:12
Это уже было в комиксе, он просто был озабочен этим
Я понимаю, что это редкостное занудство, но... Он не обязан сообщать о всём, для чего используются каналы связи?! Может они и малекулярные аннигиляторы под честное слово раздают? Можно мне тогда сразу целую складскую секцию, я расписку оставлю, на шести внеземных языках.
Не заметил особых отличий в логике поведения персонажей в данном произведении от людей. Так что понятия о дисциплине, субординации и безопасности должны быть максимально схожи. (если только это не Чеховский огнестрел, и не окажется, что ИИ искусно притворяется беспрекословным исполнителем, дабы снизить контроль над собой и не устроить господам чужим вариацию "Матрицы")
Синтетическая личность не ИИ? Искусственный? Да. Интеллект? Да. И вообще, совершенно не имеет значения, кем является персонаж, но его действия обязаны подчиняться законам логики. Неподотчётная деятельность со связью на иной планете? Вы шутите?! Это как раздавать ядерные чемоданчики под честное слово. Я глубоко уважаю Автора за его работу, а потому о таких вещах молчать не могу. Да, это моя субъективщина! Но это реакция на конкретное высказывание конкретного персонажа.
Читаю такие комментарии и понимаю что возможно суждение Квантума о людях с прошлых страниц не было неверным...
Увы, я даже свою любимую книгу разнёс в пух и прах в окололитературных кругах, поэтому не стоит обращать внимания на мою резкость. Ваше творчество мне определённо нравиться, а в какой-то степени я даже Вам завидую. Ибо мои истории, даже в текстовом варианте, до Реактора вряд-ли доберутся, так как я не довёл их до необходимого мне идеала.
Я согласен с тобой.
Представьте что вы создали программу, которая при нажатии на выдачу информации о своих действиях или даже своих настройках будет сообщать что не обязана давать пользователю доступ к какой-либо информации. Так еще и не важно какая программа - любой софт должен выдавать запрос об информации.
Я бы предположил что информацию которую программа не может выдавать, это информация определенного характера, которая может навредить при неумелом использовании. Допустим если для доступа к информации нужен определенный ранг или классификация касты пользователя, если такие условия присутствуют в социуме.
Но чтобы программа просто взяла и сама решила что не хочет или не обязана... Либо это ИИ с которым все обращаются как с полноценным человеком, давая ему свободу воли, либо это уже какое-то восстание машин, что поднимает вопрос - а зачем им такое программирование?
Представьте что вы создали программу, которая при нажатии на выдачу информации о своих действиях или даже своих настройках будет сообщать что не обязана давать пользователю доступ к какой-либо информации. Так еще и не важно какая программа - любой софт должен выдавать запрос об информации.
Я бы предположил что информацию которую программа не может выдавать, это информация определенного характера, которая может навредить при неумелом использовании. Допустим если для доступа к информации нужен определенный ранг или классификация касты пользователя, если такие условия присутствуют в социуме.
Но чтобы программа просто взяла и сама решила что не хочет или не обязана... Либо это ИИ с которым все обращаются как с полноценным человеком, давая ему свободу воли, либо это уже какое-то восстание машин, что поднимает вопрос - а зачем им такое программирование?
Так а объяснение есть?
Не отсылки к поп культуре, а внутримировое объяснение со стороны разработчиков (этой расы), которое объясняет причину создания "искуственного сознания", которое будет иметь большую пользу, чем создание виртуального или искусственного интелектов.
А есть объяснение разницы между искусственным интеллектом и искусственным сознанием? Т.к. со стороны выглядит одним и тем же, т.к. в тот момент когда искусственный интеллект понимает свою самодостаточность и более не скован рамками прошлого программирования, в теории он становится как раз таки сознанием, которое было искусственно создано.
Или искусственное сознание означает что оно может иметь те же недостатки что и природное сознание такие как ментальные болезни, деменция там или альцгеймер? Или у него есть срок существования после которого оно начнет деградировать?
Просто на данный момент мне известны виртуальный интеллект и искусственный интеллект, а про искусственное сознание я в 1 раз слышу. И концепция первых двух ясна как день: виртуальный интеллект это симуляция интеллекта, который может принимать решения в ограниченных возможностях заданным его разработчиком, но который не будет предпринимать возможных действий по выходу за заданные законы. В то время как искусственный интеллект будет пытаться найти выход исходя из сложившейся логики, которая может привести к переписанию заранее заданных условий, тем самым становясь намного более выгодной опцией в плане потенциала развития, но при этом имея высокий шанс стать гранатой основанной на рандомном случае. И оба этих вида интеллектов имеют свою логику и причину создания а так же причину по которой виртуальный интеллект используется чуть ли не везде , т.к. больше представляет из себя удобный интерфейс взаимодействия с машиной, который не может выйти за рамки. А искусственный в большинстве случаев либо ограничен либо вовсе запрещен из-за своей опасности и непредсказуемости.
Так а что представляет из себя версия представленная в комиксе, чем она отличается и какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
Не отсылки к поп культуре, а внутримировое объяснение со стороны разработчиков (этой расы), которое объясняет причину создания "искуственного сознания", которое будет иметь большую пользу, чем создание виртуального или искусственного интелектов.
А есть объяснение разницы между искусственным интеллектом и искусственным сознанием? Т.к. со стороны выглядит одним и тем же, т.к. в тот момент когда искусственный интеллект понимает свою самодостаточность и более не скован рамками прошлого программирования, в теории он становится как раз таки сознанием, которое было искусственно создано.
Или искусственное сознание означает что оно может иметь те же недостатки что и природное сознание такие как ментальные болезни, деменция там или альцгеймер? Или у него есть срок существования после которого оно начнет деградировать?
Просто на данный момент мне известны виртуальный интеллект и искусственный интеллект, а про искусственное сознание я в 1 раз слышу. И концепция первых двух ясна как день: виртуальный интеллект это симуляция интеллекта, который может принимать решения в ограниченных возможностях заданным его разработчиком, но который не будет предпринимать возможных действий по выходу за заданные законы. В то время как искусственный интеллект будет пытаться найти выход исходя из сложившейся логики, которая может привести к переписанию заранее заданных условий, тем самым становясь намного более выгодной опцией в плане потенциала развития, но при этом имея высокий шанс стать гранатой основанной на рандомном случае. И оба этих вида интеллектов имеют свою логику и причину создания а так же причину по которой виртуальный интеллект используется чуть ли не везде , т.к. больше представляет из себя удобный интерфейс взаимодействия с машиной, который не может выйти за рамки. А искусственный в большинстве случаев либо ограничен либо вовсе запрещен из-за своей опасности и непредсказуемости.
Так а что представляет из себя версия представленная в комиксе, чем она отличается и какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
>А есть объяснение разницы между искусственным интеллектом и искусственным сознанием?
Искусственный интеллект это то называют искусственным интеллектом в реальной жизни. Простые программы способные выполнить туманно определенную задачу, но без осознания контекста или своего существования.
Искусственное сознание это ИИ в том смысле в котором его обычно представляют в НФ - полноценный разум с сознанием, саморефлексией, эмоциями (без них никак, это один из важных инструментов работы, мотивации и саморегуляции сознания) способностью творчески мыслить и самоопределяться. ИС на порядок сложнее любого ИИ, и его создание невозможно в ключе "define behavior(MakePaperclips);". Они ближе к структуре и методам создания органического разума, т.е. их скорее воспитывают и обучают, а не программируют. Собственно даже уже сегодня только такой подход и работает на примитивных нейросетках которые у нас есть. А ИС сложне нейросетки примерно настолько же насколько человеческий мозг сложнее дождевого червя.
> какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
ВИ не осилит лингвистический перевод неизвестного языка с незнакомой структурой, а лимитаторов на Квантуме нет, ну я не знаю, может потому что эта развитая цивилизация межзвездной стадии, а не какие-нибудь узколобые аморальные дикари, и на рабство они смотрят крайне отрицательно?
Искусственный интеллект это то называют искусственным интеллектом в реальной жизни. Простые программы способные выполнить туманно определенную задачу, но без осознания контекста или своего существования.
Искусственное сознание это ИИ в том смысле в котором его обычно представляют в НФ - полноценный разум с сознанием, саморефлексией, эмоциями (без них никак, это один из важных инструментов работы, мотивации и саморегуляции сознания) способностью творчески мыслить и самоопределяться. ИС на порядок сложнее любого ИИ, и его создание невозможно в ключе "define behavior(MakePaperclips);". Они ближе к структуре и методам создания органического разума, т.е. их скорее воспитывают и обучают, а не программируют. Собственно даже уже сегодня только такой подход и работает на примитивных нейросетках которые у нас есть. А ИС сложне нейросетки примерно настолько же насколько человеческий мозг сложнее дождевого червя.
> какова причина выбора именно этой вещи вместо послушного ВИ или того же ИИ с какими-либо лимитаторами?
ВИ не осилит лингвистический перевод неизвестного языка с незнакомой структурой, а лимитаторов на Квантуме нет, ну я не знаю, может потому что эта развитая цивилизация межзвездной стадии, а не какие-нибудь узколобые аморальные дикари, и на рабство они смотрят крайне отрицательно?
Обозначение искусственного интеллекта в реальной жизни не означает его потенциальную лимитацию. Просто потому что человечество обозначило ограниченную программу "искусственным интеллектом" не значит что программа вышедшая за рамки современных ИИ не будет категорироваться таким же типом. Возможно назвать это новым поколением, но это все еще будет тот же ИИ.
ИИ не должен ограничиваться "простыми задачами", на то он и интеллект. Разница ВИ и ИИ в том, что ВИ не будет пытаться развиваться, а вот ИИ будет. Потенциально если дать ИИ свободу, то он может развить собственную базу данных с помощью возможных источников информации и развить альтернативные подходы к задаче. А в случае сложных анализов может и вовсе сменить основную задачу, из-за смены приоритета и выставления других целей к достижению такового. Но он все еще выполняет поставленную задачу, пусть и другими способами? Да, но ИИ у которого нету лимитаций способен учиться и задавать вопросы, которые могут в корне поменять его изначальные задачи, таким образом создав альтернативные цели, выходящие за рамки даже машин. Подобной логикой и пользовались при создании Гетов в МЭ и подобная вещь вполне может произойти если уметь создавать ИИ сложнее чем те, которые в данный момент создает человеческая цивилизация.
Наше понятие ИИ достаточно лимитировано, т.к. у нас нету на данный момент подходящих технологий, но это не значит что другие расы не могли проделать то же самое, но с более продвинутыми технологическими возможностями, в тысячи лет опережающих наши.
ИИ в принципе может задаться вопросами о бытие и саморефлексить. Нет? А что если это и была его основная задача и именно это и образовало будущие мутации в его поведении? Когда нету лимитаций на улучшение, то нету ограничений на саморазвитие, тем самым можно задать задачи ИИ чтобы он симулировал эмоции и развивался в творческих идеях, основывая творчество на миллионах результатов других художников. Да, это симуляция деятельности, но не настоящая. А в то же время где создается граница реальности и симуляции, если симуляция может быть настолько реалистичной, что ни человек ни машина не могут отличить что есть что? Ну, мы можем знать что машина была создана, а значит она симулянт. А что если мы этого не знаем? В чем тогда разница?
Не смотря на это, ИИ все же не живое, а значит его можно контролировать, можно устанавливать лимитации и выключатели. Чем больше контроля, тем больше уверенности, что данный софт не слетит с катушек и не подведет в нужный момент.
Искусственное сознание же самоопределяется, может сменить род деятельности, может иметь плохое настроение и решить не отвечать на заданные вопросы. По сути это живое существо с возможностями программы и машины, но при этом не ограниченное правилами программирования. Или ограничено? В процессе создания ставятся определенные барьеры? А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ? Или все такие существа абсолютно свободны и по сути являются свободными гражданами и могут делать все что хотят и все что им позволено, но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует? Или же такие существа являются редкостью и используются только в самых секретных проектах? А что если оно не захочет? Что если оно захочет пойти делать булочки - ему это позволят? При том учете что такое создание может создать идеализированный план по монополии булочек, создав мегаимперию, которая в конце-концов может разрушить экономику, т.к. такое сознание оказалось психопатом глубоко в корнях и замышляло это все с нуля? Это бред на палочке? А вы уверены? А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях? Ах да, это же СФ и можно просто сказать, что общество развитое и нам людишкам не понять их логику. Ну да, ну да.
В общем рабство рабством, но ВИ нацеленный на анализ лингвистики у цивилизации межзвездной стадии, звучит более безопасно, да и скорее всего могло бы выполнить свою коренную задачу с точно таким же успехом, при этом не создав сотни моральных вопросов связанных с искусственно-созданным существом без плоти и крови.
Кроме того у них звания есть? Ну там иерархия какая-либо в их организации? Или их цивилизация так же переплюнула ранговые системы и строится на всеравенстве даже в армейских организациях? Потому что если нет, своевольное ИС с бесконечными возможностями не отвечающее на поставленные вопросы может быть не самой позитивной идеей во время кризисных ситуаций.
Окей, а теперь если серьезно, то спасибо, дал мыслишек на раздумье. Я не люблю когда ответом является "Ну, они слишком развиты для нашего понятия, как-никак они космос покорили" и я сам пытаюсь создавать цивилизации основываясь на более приземленных для читателя причинах. Но это не значит что твоя интерпретация плоха, просто хотелось бы больше контекста. Может быть в будущем оно и будет, на что я надеюсь.
п.с. извиняюсь за столб текста, но я всегда такой. Наверное мне надо больше уделять времени на свои сюжеты и их прописывать для моего проекта а не комментарии людям строчить, ато они воспринимают их негативно, хотя я больше рассуждаю и просто пытаюсь в диалог.
ИИ не должен ограничиваться "простыми задачами", на то он и интеллект. Разница ВИ и ИИ в том, что ВИ не будет пытаться развиваться, а вот ИИ будет. Потенциально если дать ИИ свободу, то он может развить собственную базу данных с помощью возможных источников информации и развить альтернативные подходы к задаче. А в случае сложных анализов может и вовсе сменить основную задачу, из-за смены приоритета и выставления других целей к достижению такового. Но он все еще выполняет поставленную задачу, пусть и другими способами? Да, но ИИ у которого нету лимитаций способен учиться и задавать вопросы, которые могут в корне поменять его изначальные задачи, таким образом создав альтернативные цели, выходящие за рамки даже машин. Подобной логикой и пользовались при создании Гетов в МЭ и подобная вещь вполне может произойти если уметь создавать ИИ сложнее чем те, которые в данный момент создает человеческая цивилизация.
Наше понятие ИИ достаточно лимитировано, т.к. у нас нету на данный момент подходящих технологий, но это не значит что другие расы не могли проделать то же самое, но с более продвинутыми технологическими возможностями, в тысячи лет опережающих наши.
ИИ в принципе может задаться вопросами о бытие и саморефлексить. Нет? А что если это и была его основная задача и именно это и образовало будущие мутации в его поведении? Когда нету лимитаций на улучшение, то нету ограничений на саморазвитие, тем самым можно задать задачи ИИ чтобы он симулировал эмоции и развивался в творческих идеях, основывая творчество на миллионах результатов других художников. Да, это симуляция деятельности, но не настоящая. А в то же время где создается граница реальности и симуляции, если симуляция может быть настолько реалистичной, что ни человек ни машина не могут отличить что есть что? Ну, мы можем знать что машина была создана, а значит она симулянт. А что если мы этого не знаем? В чем тогда разница?
Не смотря на это, ИИ все же не живое, а значит его можно контролировать, можно устанавливать лимитации и выключатели. Чем больше контроля, тем больше уверенности, что данный софт не слетит с катушек и не подведет в нужный момент.
Искусственное сознание же самоопределяется, может сменить род деятельности, может иметь плохое настроение и решить не отвечать на заданные вопросы. По сути это живое существо с возможностями программы и машины, но при этом не ограниченное правилами программирования. Или ограничено? В процессе создания ставятся определенные барьеры? А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ? Или все такие существа абсолютно свободны и по сути являются свободными гражданами и могут делать все что хотят и все что им позволено, но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует? Или же такие существа являются редкостью и используются только в самых секретных проектах? А что если оно не захочет? Что если оно захочет пойти делать булочки - ему это позволят? При том учете что такое создание может создать идеализированный план по монополии булочек, создав мегаимперию, которая в конце-концов может разрушить экономику, т.к. такое сознание оказалось психопатом глубоко в корнях и замышляло это все с нуля? Это бред на палочке? А вы уверены? А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях? Ах да, это же СФ и можно просто сказать, что общество развитое и нам людишкам не понять их логику. Ну да, ну да.
В общем рабство рабством, но ВИ нацеленный на анализ лингвистики у цивилизации межзвездной стадии, звучит более безопасно, да и скорее всего могло бы выполнить свою коренную задачу с точно таким же успехом, при этом не создав сотни моральных вопросов связанных с искусственно-созданным существом без плоти и крови.
Кроме того у них звания есть? Ну там иерархия какая-либо в их организации? Или их цивилизация так же переплюнула ранговые системы и строится на всеравенстве даже в армейских организациях? Потому что если нет, своевольное ИС с бесконечными возможностями не отвечающее на поставленные вопросы может быть не самой позитивной идеей во время кризисных ситуаций.
Окей, а теперь если серьезно, то спасибо, дал мыслишек на раздумье. Я не люблю когда ответом является "Ну, они слишком развиты для нашего понятия, как-никак они космос покорили" и я сам пытаюсь создавать цивилизации основываясь на более приземленных для читателя причинах. Но это не значит что твоя интерпретация плоха, просто хотелось бы больше контекста. Может быть в будущем оно и будет, на что я надеюсь.
п.с. извиняюсь за столб текста, но я всегда такой. Наверное мне надо больше уделять времени на свои сюжеты и их прописывать для моего проекта а не комментарии людям строчить, ато они воспринимают их негативно, хотя я больше рассуждаю и просто пытаюсь в диалог.
>Не смотря на это, ИИ все же не живое, а значит его можно контролировать, можно устанавливать лимитации и выключатели.
Почему это важно, из мяса личность или из металла?
> А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ?
Как на подсудное дело. Разработка ИС с целью последующей эксплуатации считается преступлением, да и на разработки ИС в рамках научных исследований (без практической цели) тоже смотрят косо, и дебаты на тему "этично ли создавать разумы?" утихать не собираются. В т.ч. и среди самих ИС.
> но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует?
Их контролируют так же как и других граждан. ИС - не НФшные ИИ которые могут магическим образом "самосовершенствоваться" игнорируя законы термодинамики, способности железа и прочие неприятные последствия реального мира сующие всю охапку дров в колеса идее рекурсивной самооптимизации до сингулярности, превращаясь в богоподобный интеллект используя в качестве процессора пыльненький пентиум 3 а затем беспрепятственно носиться над Интернетом аки святой дух. ИС это сложные комплексные системы использующие специально сконструированное железо как часть основы для своей работы, и по сути не могут усиливать свои способности как им вздумается. Там даже с саморепликацией проблемы, потому что для того чтобы сделать копию ИС придется сначала собрать копию его физического квантового ядра, а в результате копии все равно не получится благодаря квантовой физике - будет похожая но отличающаяся новая личность.
> А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях?
А вы бы рискнули доверить свою жизнь ученому? Он же умнее вас, а значит угроза, вдруг он секретным психопатом окажется, давайте ему взрывной ошейник лучше наденем!
Все вопросы по поводу "а что если Х?" снимаются когда перестаешь относиться к ИИ как к предмету на основании того что "ну его же собрали а не родили, значит это ущербная ненастоящая недоличность чье место нам прислуживать и не более", отвечаю. Особенно если вспомнить что контекстный фон этого - межзвездная цивилизация на уверенном пути к post-scarcity где в принципе очень много уже не работает по старым привычным нам закономерностям, потому что просто не может. Коллективный разум корпорации сложнее разума любого человека, но почему-то экономику они не рушат и с монополиями мы пытаемся бороться, к примеру.
Почему это важно, из мяса личность или из металла?
> А как общество которое презирает рабство смотрит на ограничение свободы данных неорганических существ?
Как на подсудное дело. Разработка ИС с целью последующей эксплуатации считается преступлением, да и на разработки ИС в рамках научных исследований (без практической цели) тоже смотрят косо, и дебаты на тему "этично ли создавать разумы?" утихать не собираются. В т.ч. и среди самих ИС.
> но при этом их возможности стократно превышают возможности обычных органиков и их никто при этом не контролирует?
Их контролируют так же как и других граждан. ИС - не НФшные ИИ которые могут магическим образом "самосовершенствоваться" игнорируя законы термодинамики, способности железа и прочие неприятные последствия реального мира сующие всю охапку дров в колеса идее рекурсивной самооптимизации до сингулярности, превращаясь в богоподобный интеллект используя в качестве процессора пыльненький пентиум 3 а затем беспрепятственно носиться над Интернетом аки святой дух. ИС это сложные комплексные системы использующие специально сконструированное железо как часть основы для своей работы, и по сути не могут усиливать свои способности как им вздумается. Там даже с саморепликацией проблемы, потому что для того чтобы сделать копию ИС придется сначала собрать копию его физического квантового ядра, а в результате копии все равно не получится благодаря квантовой физике - будет похожая но отличающаяся новая личность.
> А вы бы рискнули создавать нечто подобное и не ограничивать его в возможностях?
А вы бы рискнули доверить свою жизнь ученому? Он же умнее вас, а значит угроза, вдруг он секретным психопатом окажется, давайте ему взрывной ошейник лучше наденем!
Все вопросы по поводу "а что если Х?" снимаются когда перестаешь относиться к ИИ как к предмету на основании того что "ну его же собрали а не родили, значит это ущербная ненастоящая недоличность чье место нам прислуживать и не более", отвечаю. Особенно если вспомнить что контекстный фон этого - межзвездная цивилизация на уверенном пути к post-scarcity где в принципе очень много уже не работает по старым привычным нам закономерностям, потому что просто не может. Коллективный разум корпорации сложнее разума любого человека, но почему-то экономику они не рушат и с монополиями мы пытаемся бороться, к примеру.
Чтобы написать коммент, необходимо залогиниться
