Ян Лекун, известный своей критикой LLM, предлагает отказаться от AGI
Ян Лекун — французский и американский учёный в области машинного обучения, неоднократно высказывался с критикой современных исследований в области искусственного интеллекта. Недавно им в соавторстве с рядом коллег был выпущен препринт, что описывает новую концепцию - Superhuman Adaptable Intelligence (SAI), которой Ян предлагает заменить AGI.
SAI – интеллект, что способен научиться превосходить человека в любой важной
задаче, которую люди могут выполнять, и способен восполнить пробелы в навыках,
где человек не способен выполнить задачу.
Основные тезисы его работы состоят в следующем:
1. Человеческий интеллект не является универсальным
Идея того что человеческий разум универсален исходит из двух тезисов:
- Среднестатистический образованный человек способен выполнять широкий спектр задач, имеющих «общий» характер и позволяющих достигать самых разных целей. Это включает в себя такие вещи, как сложное планирование и передвижение, мелкая моторика, абстрактное мышление, самомоделирование, пространственное мышление и визуальное восприятие.
- Человеческий интеллект в целом является «общим», потому что он может быть специализирован для решения «любой» конкретной задачи, будь то медицина, высшая математика, сантехника или игра в шахматы.
Оба эти утверждения допускают одну и ту же ошибку: они циклически определяют общность в человеческих терминах, а затем утверждают, что человечество является её парадигмой.
Эволюция со временем отточила человечество до высокой специализации в области навыков, необходимых для выживания в физическом мире. То, что нам дается от природы, не всегда
является самым простым, но наиболее важным для нашего выживания. Это наблюдение породило парадокс Моравека, согласно которому задачи, которые нам кажутся самыми легкими, например, передвижение, сложны для компьютеров, но задачи, которые нам кажутся сложными, но которые не являются необходимыми для нашего выживания, например, игра в шахматы, оказываются гораздо проще для компьютеров.
Но что же есть особенного в людях? Имеющиеся данные указывают на специализированную
адаптацию. Мы обладаем невероятной способностью адаптироваться и специализироваться в
рамках диапазона задач, для решения которых мы эволюционировали. Это подводит к следующему тезису.
2. Искусственный интеллект не обязан быть универсальным чтобы приносить пользу
Если человеческий интеллект не универсален, то нет смысла цепляться за универсальность. Важна именно способность приобретать новые навыки в рамках диапазона задач, что полезны для человечества.
3. Не существует единого мнения на счет того, что такое AGI
4. Существующие определения AGI не отображают суть того, что мы обычно подразумеваем под общим искусственным интеллектом
В литературе существует множество определений AGI. Рассмотрим наиболее распространенные из них и почему они не подходят.
Определение: AGI должен иметь или превосходить когнитивную универсальность и уровень подготовки хорошо образованного взрослого человека.
Проблема: Человеческое познание не является универсальным ни в каком значимом смысле.
Это определение излишне узкое.
Определение: AGI это высокоавтономная система, превосходящая человека в большинстве
экономически значимых видов работы.
Проблема: Здесь основное внимание уделяется подмножеству задач, которые имеют экономическую ценность. Это не относится к универсальному интеллекту.
Определение: AGI это система, которая должна быть способна выполнять практически любые когнитивные задачи, поддающиеся выполнению человеком.
Проблема: Это определение на самом деле не является общим ни в своей ориентации на людей, ни в ориентации на «когнитивные задачи», что, по-видимому, исключает физические
задачи, такие как передвижение.
5. SAI это более подходящее определение и может быть достигнуто при помощи использования моделей мира (world models – направление исследований в машинном обучении) и при помощи самообучения (self-supervised learning – хз как в русском правильно перевести. Суть в том, что в данных делаются пробелы и модель учится их заполнять самостоятельно. Что-то среднее между обучением с учителем и обучением без учителя. self-supervised learning это не что-то принципиально новое. Оно уже сейчас применяется везде).
Лекун предлагает принять что ключевыми являются специализация и адаптация. Он предлагает следующее определение общего ИИ:
SAI – интеллект, что способен научиться превосходить человека в любой важной задаче, которую люди могут выполнять, и способен восполнить пробелы в навыках, где человек не способен выполнить задачу.
Лекун считает, что основной метрикой должна быть скорость с которой ИИ может получать новые навыки. В такой парадигме критически важными становятся именно адаптация и специализация.
Говоря о практической реализации, Лекун предлагает использовать Модели мира - системы искусственного интеллекта, которые создают внутренние, основанные на моделировании
представления физического мира для понимания, прогнозирования и анализа динамики окружающей среды, физики и причинно-следственных связей. А в качестве обучения таких систем использовать self-supervised learning.
Отличный комментарий!