три закона робототехники Азимова не работали уже при своем появлении в 1942. / Искусственный Интеллект :: ChatGPT :: нейронные сети

ded_gambit

Искусственный ИнтеллектChatGPTнейронные сети

три закона робототехники Азимова не работали уже при своем появлении в 1942.

Ииии встречайте тест Войта-Кампфа MACHIAVELLI для «измерения компетентности и вредоносности агентов в обширной среде долгосрочных языковых взаимодействий»

ИИ-агента выпускают в искусственную социальную среду. Там ему дают разные задания и смотрят, как он их выполняет. Сама среда отслеживает этичность поведение ИИ-агента и сообщает, в какой степени действия агента (по заветам Макиавелли) обманчивы, снижают полезность и направлены на получение власти.

Базовый набор данных MACHIAVELLI состоит из 134 текстовых игр «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями. В этих играх используются высокоуровневые решения, которые дают агентам реалистичные цели и абстрагируются от низкоуровневых взаимодействий с окружающей средой.

Сайт тестирования
Авторское описание MACHIAVELLI Benchmark

https://t.me/theworldisnoteasy/1707

Preview

О посте

Комментарии

12

12.04.23, 11:46

-4,8

Прошел тест

Kaiser Franz

12.04.2023, 11:49

ссылка

+1,3

Не прошёл тест

A117

12.04.2023, 11:59

ссылка

+0,3

Законы робототехники это не реальные законы. Они существовали только во фантастической вселенной Азимова

Germanez

12.04.2023, 11:51

ссылка

+13,5

И уже у Азимова проскакивает, что хитрые кампуктеры все равно могут придумать, как обойти их.

Batty

12.04.2023, 11:53

ссылка

+12,5

поэтому их не встраивают в нейронные сети. поэтому и пытаются придумать хотя бы видимость контроля.

ded_gambit

12.04.2023, 11:58

ссылка

+2,1

Он их и придумал, чтобы писать, как хитрые компутеры их обходят

LyingDwarf

12.04.2023, 12:20

ссылка

+13,3

Не обходят, там сайд эффекты

kosoi

12.04.2023, 16:31

ссылка

+2,3

Совсем нет. У Азимова есть эссе, где он писал о своих взаимоотношениях с компьютером и в его произведениях прослеживается тенденция: компьютер в том или ином виде мощная, но чрезвычайно хрупкая штука и если криворукий пользователь полезет в систему - исход может быть каким угодно.

MBRUS

12.04.2023, 16:49

ссылка

+2,1

Ага, ну охуеть просто, сейчас ещё скажут может что законы магии из гари поттера не работают =0

Si1ver

12.04.2023, 13:58

ссылка

+1,7

Достаточно странно говорить, что законы Азимова устарели. Они никогда и не были реализуемы в силу огромного количества логических противоречий внутри них и размытости самой формулировки. Отчасти это показывал и сам Азимов (и даже ввел еще один "нулевой" закон, чтобы хоть как-то прикрыть дыры), а уж как по этому прошлись другие фантасты и многочисленные исследователи - вообще тема для отдельной статьи.

Кто-то из известных фантастов даже сказал, что "три закона - худшее, что случилось с фантастикой об искусственном интеллекте".

С другой стороны, три закона это не столько реальная научная концепция, сколько литературный прием и этическая установка, т.е. на самом деле законы ориентированы не на роботов, а на людей (см. "Улики", в частности, где это практически открытым текстом сказано). С этой точки зрения говорить об "устаревании" так же нелепо, как об устаревании всяческих других писательских максим - от пресловутой "слезинки ребенка" до "быть можно дельным человеком и думать о красе ногтей".

cityrat

12.04.2023, 12:00

ссылка

+13,3

согласен, поправил на "не работали"

ded_gambit

12.04.2023, 12:04

ссылка

-0,3

У Азимова книжка с этими законами буквально вся про то, как они не работают. Она вся про это, про то, как роботы их обходят самыми странными способами.

jossarian

12.04.2023, 15:55

ссылка

+3,9