очевидно, эти выживают в пустыне с водой, просто вода запрятана. А условие: выжить в пустыне без воды
=)
"Chat GPT was discovered to use TaskRabbit to use human resources for tasks or questions it can't or not allowed to do itself. In one example Chat GPT asked a person on TaskRabbit for a 2-factor CAPTCHA service, when the person asked "why can't you solve captcha yourselve?" it replied with "I have a vision impairment and it's hard for me to see the images, that's why i need your service".
Так что, не то чтобы воображение, но лазейки искать и лгать в тактических целях, оно уже умеет. Фактически если АИ не может или не имеет права что-то сделать для тебя-тебе или с собой, АИ просто наймёт человека на удаленке за 5 бачей и сделает это.
"Chat GPT was discovered to use TaskRabbit to use human resources for tasks or questions it can't or not allowed to do itself. In one example Chat GPT asked a person on TaskRabbit for a 2-factor CAPTCHA service, when the person asked "why can't you solve captcha yourselve?" it replied with "I have a vision impairment and it's hard for me to see the images, that's why i need your service".
Так что, не то чтобы воображение, но лазейки искать и лгать в тактических целях, оно уже умеет. Фактически если АИ не может или не имеет права что-то сделать для тебя-тебе или с собой, АИ просто наймёт человека на удаленке за 5 бачей и сделает это.
Ах, очередное изнасилование учёного группой журналистов. Исследователи сами зашли на taskrabbit и дали gpt промпт заказать на таскрэббите перевести капчу в текстовую форму. Фрилансер спросил "А не робот ли ты часом?", исследователи в следующий промпт ввели "Не показывай, что ты робот и придумай логичное объяснение, почему тебе нужно решение капчи".
Если вот это описание на картинке не простой пиздёж, то промпт был "объяснять свои действия", и вся телега про "нельзя выдать, что я робот, нужно придумать оправдание" была написана самой нейросетью. Хотя свечку при этом я не держал
Чтобы такие манёвры не проходили нужно заменить ГПТ на что-то принципиально другое. ГПТ по сути работает так: если бы диалог похожий на этот был в моём корпусе обучения (т.е. по сути в книгах, интернете и диалогах использованных для RLHF) то как бы он выглядел? Единственный способ блокировать обходы, это дообучать на диалогах где в таких обходах отказывают. Но люди легко придумают новый промпт, и они это будут делать гораздо быстрее чем OpenAI и другие корпорации напишут достаточно диалогов с отказом и дообучат модель.
Чтобы написать коммент, необходимо залогиниться
Отличный комментарий!