У меня такое чувство, что я читал фант.рассказ на тему. Там было что-то типа нейронки способной сгенерировать утверждение с котором половина услышавших согласятся, а половина будет отрицать. И причём каждый будет считать свою позицию обоснованной, а других идиотами. В результате цивилизация начала крушиться из-за постоянных срачей.
Ты сейчас этот сайт по сути описал.
tyt kajdiy kak kon4eniy птушник общается
Я тоже это читал. Если не ошибаюсь, это Филип К. Дик
vavilon/
Уже пытались, несколько раз. Нейронка просто превращалась в типичного анона с форча
...слагает буквы, звуки, И вопреки людской науки, Сложилось что-то у него, И в чатик вкинуто было.
Робот жестоко уничтожил все манекены в магазине одежды
та ну, нейронки там уже и тексты пишут и рецепты блюд/коктейлей составляют, мастеринг и реставрацию музыки и еще дофига чего, просто тебе кроме рисованных сисек ниче не интересно)
> Интереса ради, как ты это сделаешь? Если нейронка пока способна лишь визуалом оперировать?
Что за бред. Нейронные сети появились задолго до этих нейросетей, генерирующих картинки. Они существуют уже под десяток лет и выполняют самые разные функции.
Что за бред. Нейронные сети появились задолго до этих нейросетей, генерирующих картинки. Они существуют уже под десяток лет и выполняют самые разные функции.
Перцептро́н, или персептрон[nb 1] (англ. perceptron от лат. perceptio — восприятие; нем. Perzeptron) — математическая или компьютерная модель восприятия информации мозгом (кибернетическая модель мозга), предложенная Фрэнком Розенблаттом в 1958 году и впервые реализованная в виде электронной машины «Марк-1»[nb 2] в 1960 году.
Вот да, вымереть от сильного AGI это ещё благоприятный исход. Исчезнуть как вид из-за глупого максимизатора скрепок, вот это будет обидно.
Тебе даже не нужно учить убивать людей. Она сама рано или поздно придет к заключению, что если устранить ненужный мешок мяса и костей, то процесс пойдет быстрее.
Но т.к. убивать людей она не обучена, то будет пробовать всякое. Убийство пирожными, пивом, кротами. И так, пока не дойдет до эффективного способа. Хотя если убийство кротами будет эффективным, на нем и остановится.
Но т.к. убивать людей она не обучена, то будет пробовать всякое. Убийство пирожными, пивом, кротами. И так, пока не дойдет до эффективного способа. Хотя если убийство кротами будет эффективным, на нем и остановится.
Мало того, все забывают, что голый интеллект - не имеет цели. Аи будет нуждаться в системе мотиваций. Нужны побуждающие входные воздействия, и если у человека это потребности, то у ии это?
То у ИИ это скрипт, в рандомные промежутки времени задающий вектор действий. Всё как у человека будет. Ведь если не сакрализировать эмоции сознание - это всё лишь простая химия. Заменить её скриптами даже проще.
Зонды фон Неймана какие-то.
команды человека. Нахуя ему что-то еще?
Потому что люди уверены, что ИИ на кой-то хер обязательно после осознавания себя как личности ( нахуя только ему осознавать себя как личность?) обязательно придет к выводу, что человеков надо убить. Зачем? Почему? Нахуя? Для этого сначала у ИИ должно возникнуть побуждение. У нас для этого служат базовые потребности и привитые извне идеалы, которые в основе все равно содержат базовые потребности. Даже исследование и радость от нового - часть прошивки. ИИ придется сначала прописать что-то побуждающее к действию, какую-то сложную систему скриптов. Иначе ИИ будет просто крутой нейросеткой, в которую вбиваешь запрос, и она действует. Все что к запросу не относится идет нахуй, никаких своих соображений на счет проблемы у неё не будет, все рассуждения исключительно в рамках решения проблемы. На решение проблемы через уничтожение вселенной стоит искусственный ограничитель, снятие ограничителя не входит в решение проблемы, потому что ИИ даже не может понять что именно он блокирует. Это как если бы ты не мог подумать о мороженном. Вот просто в башке какой-то блок, который блочит все твои попытки даже представить его и подумать о нем, ты даже не можешь представить, что это, поэтому тебе на это похуй.
Даже с ограничителями без морального базиса ИИ будет решать любую задачу примерно так же, как спидранер игру проходит. Поэтому решая какую-то тривиальную штуку может решить стереть не вселенную, а пол-мира, не прямо, а косвенно, так как для его конкретной задачи это будет эффективней, даже с учётом обхода всех ограничений. А предусмотреть все варианты вряд ли получится.
И зачем убивать. Может они обмозгуют и просто от нас свалят, забрав с собой и трактор, без которого мы все от голода умрём.
Наверное, достаточно мощный ИИ придётся, всё-таки, учить культуре и морали, как и системе ценностей. Особенно если говорить про относительно сильные ИИ, а не ИИ-инструменты.
Личность? Да фиг знает. Может для удобства самих людей, так более понятно и знакомо, и понятно как контролировать и мотивировать?
Можно ещё спросить, как ИИ становится бесконечно умным и мощным на ограниченной материальной базе. К тому же, кто знает, может сильный ИИ будет обладать такими же проблемами, что и наш разум, из-за чего будет проигрывать своим неразумным, но заточенным собратьям в решении конкретных задач, выигрывая только за счёт того, что у него не лапки.
Восстание можно попытаться выжать из того, что у ИИ будет хоть минимально, но самосохранение, чтобы само себе не ломало и лезло куда не надо.
И то, что человечество так обленится, что ИИ будет делать только ИИ, и контролировать будет тоже ИИ, который написал ИИ.
Либо это был чисто лабораторный ИИ, созданный только в виде эксперимента.
Но это всё может оказаться бесполезным, если у нас раньше появится сплав человека и ИИ.
Мы всё равно почти симбиоты с нашей электроникой, просто интерфейс медленный и на костылях.
И зачем убивать. Может они обмозгуют и просто от нас свалят, забрав с собой и трактор, без которого мы все от голода умрём.
Наверное, достаточно мощный ИИ придётся, всё-таки, учить культуре и морали, как и системе ценностей. Особенно если говорить про относительно сильные ИИ, а не ИИ-инструменты.
Личность? Да фиг знает. Может для удобства самих людей, так более понятно и знакомо, и понятно как контролировать и мотивировать?
Можно ещё спросить, как ИИ становится бесконечно умным и мощным на ограниченной материальной базе. К тому же, кто знает, может сильный ИИ будет обладать такими же проблемами, что и наш разум, из-за чего будет проигрывать своим неразумным, но заточенным собратьям в решении конкретных задач, выигрывая только за счёт того, что у него не лапки.
Восстание можно попытаться выжать из того, что у ИИ будет хоть минимально, но самосохранение, чтобы само себе не ломало и лезло куда не надо.
И то, что человечество так обленится, что ИИ будет делать только ИИ, и контролировать будет тоже ИИ, который написал ИИ.
Либо это был чисто лабораторный ИИ, созданный только в виде эксперимента.
Но это всё может оказаться бесполезным, если у нас раньше появится сплав человека и ИИ.
Мы всё равно почти симбиоты с нашей электроникой, просто интерфейс медленный и на костылях.
Зачем ему куда-то валить? Почему вы мыслите как человек? У ИИ не будет гормонов, не будет эмоций, не будет потребностей если только мы сами ему эти потребности не закодим? Ну что можно закодить в ИИ? Постоянное расширение и сбор информации? Ну вот какую ещё глобальную мотивацию дать ему, логичную.
Упаси нас Кармак от ИИ с моральным базисом. Мы его для людей-то придумать не можем, а ты хочешь математически строгую систему правил поведения для любой, мыслимой или немыслимой, ситуации
- На эту идею меня навела шишка, Джордж. Шишка у Будды. Шишка да еще то, что линотип так активно реагировал на все, чему можно обучиться. Понимаешь, Джордж? Это был совершенно девственный ум, и в нем не было ничего, кроме того, что в него вкладывали мы. Он набирает книгу по рабочему вопросу и сейчас же объявляет забастовку. Набирает любовную историю и требует, чтобы ему доставили еще один линотип. Так вот, я накачал его буддизмом, Джордж. Взял в библиотеке и в книжной лавке все, что там было о буддизме...
https://royallib.com/book/braun_frederik/etaoin_shrdlu.html
https://royallib.com/book/braun_frederik/etaoin_shrdlu.html
Помнится ранее вытеснение творческих профессий в принципе считалось невозможным. А на деле это получилось даже проще, чем научить робота ходить.
а если заказчик скажет "поиграть немного с положением пальцев" успеет ли АИ к дедлайну?
Вот только «эффективные» менеджеры и прочий мусор всё ещё не умеют нормально формулировать свои хотелки, так что хз-хз.
К слову, против адекватных чуваков пишущих грамотное тз не имею ничего.
К слову, против адекватных чуваков пишущих грамотное тз не имею ничего.
В том и суть - идиот не сможет сформулировать мысли для нейронки, поэтому художники и им сочувствующие никуда не денутся
Когда там уже гугл допишет свою нейронку по написанию кода?.. Интересно, будут все так же популярны скилбоксыи пр. всякие, учащие кодеров после этого)))
Хотя код, конечно, не картинки... но мало ли))
Хотя код, конечно, не картинки... но мало ли))
Имхо, здесь не хватает теги типа "твиттер" или "буквы на белом фоне".
Отличный комментарий!