Я не видел ни одного программиста который пишет код с первого раза, если это код сложнее калькулятора...
Даже в платных версиях они начинают относительно быстро ловить глюки.
Как и мясная версия... Особенно если проект большой и над ним работает много программистов.
Claude code сам пишет рутину. При том я работал с на много более ранними версиями - они все лучше и лучше в этом. Джуны с такой скоростью не прогрессируют. Да крутых программистов не заменят в ближайшее время, но Джунов и середнячков? Джунов вон вообще нанимать массово перестали.
Даже в платных версиях они начинают относительно быстро ловить глюки.
Как и мясная версия... Особенно если проект большой и над ним работает много программистов.
Claude code сам пишет рутину. При том я работал с на много более ранними версиями - они все лучше и лучше в этом. Джуны с такой скоростью не прогрессируют. Да крутых программистов не заменят в ближайшее время, но Джунов и середнячков? Джунов вон вообще нанимать массово перестали.
на ту же тему сайт, сколько тратят на ллмки https://isaiprofitable.com
Я честно не пойму хайпа вокруг этого claude. У меня в про подписке (за 20 баксов) за 3 сообщения уже лимиты исчерпались. Чего???
В ChatGPT за год по подписке (тоже 20 баксов) я не видел ни одного лимита. А я там могу хуярить часами тексты/код/вопросы/картинки...
В ChatGPT за год по подписке (тоже 20 баксов) я не видел ни одного лимита. А я там могу хуярить часами тексты/код/вопросы/картинки...
И не сказал бы что клод пишет какой-то охуенный код. Оба пишут плюс минус одно и тоже =/
Так за что там клод требует такие деньжища блять??
У OpenAI реально лимиты шире, они с самого начала в вычислительные мощности вкладывались. Anthropic это дело пролюбила в какой-то момент и с ростом популярности перестала успевать, начала резать лимиты. Даже регистрацию новых пользователей закрывали на какое-то время. Сейчас у них соглашение с xAI на использование их DC, поэтому ситуация нескольку улучшилась.
Это потому что надо использовать claude code. Понятно что под капотом одна и та же llm, но само приложение тоже много чего делает, чтоб направить llm в нужное русло, что в конечном счете влияет на результат. Из забавного, когда недавно силии исходники claude code, оказалось что они регуляркой отлавливают слова типа fuck, и выставляют флаг что-то типа user_frustration
Тем людям которые рассуждают как нейронки всех заменят. Особенно программистов. Вы когда-нибудь пробовали там что-то сложнее калькулятора написать невникая в код? Или попробуйте развернуто с ним поработать. Даже в платных версиях они начинают относительно быстро ловить глюки. И всегда надо все контролировать.
Я не видел ни одного программиста который пишет код с первого раза, если это код сложнее калькулятора...
Даже в платных версиях они начинают относительно быстро ловить глюки.
Как и мясная версия... Особенно если проект большой и над ним работает много программистов.
Claude code сам пишет рутину. При том я работал с на много более ранними версиями - они все лучше и лучше в этом. Джуны с такой скоростью не прогрессируют. Да крутых программистов не заменят в ближайшее время, но Джунов и середнячков? Джунов вон вообще нанимать массово перестали.
Даже в платных версиях они начинают относительно быстро ловить глюки.
Как и мясная версия... Особенно если проект большой и над ним работает много программистов.
Claude code сам пишет рутину. При том я работал с на много более ранними версиями - они все лучше и лучше в этом. Джуны с такой скоростью не прогрессируют. Да крутых программистов не заменят в ближайшее время, но Джунов и середнячков? Джунов вон вообще нанимать массово перестали.
Не говоря уже о том, что ллмки учатся на коде реальных людей, но с каждым днем оно за основу берет свой же код, что обязательно приводит к ухудшению его качества. Вообще не понимаю эти разговоры про замены реальных людей, это не годится в долгосроке. Ллмка не может по определению нести ответственность за код в продакшне и не может эффективно работать без человека с соответствующей квалификацией
ллм это не ии и никак в него не выростет
О, мне это напомнило почему в США быть врачом так прибыльно. Это из-за того что когда-то они точно так же решили мол - "Да зачем нам этих новичков учить? Это дорого, да и вообще они тупые, вон, у нас сколько врачей уже есть, зачем ещё?".
*Несколько лет спустя*
"БЛЯ А ГДЕ ВРАЧИ!?"
С тех пор начался острый дефицит врачей, который так и не закрыт. Кто ты мог подумать, но врачи это люди, и они стареют да на пенсию выходят
*Несколько лет спустя*
"БЛЯ А ГДЕ ВРАЧИ!?"
С тех пор начался острый дефицит врачей, который так и не закрыт. Кто ты мог подумать, но врачи это люди, и они стареют да на пенсию выходят
Я без проблем напишу с первого раза код сложнее калькулятора. Вопрос в другом, все считают что сетка работает лучше человека, а она в общем работает как средний человек, причем под веществами. Если когда-нибудь победят галлюцинации ИИ, его можно будет использовать, а пока что он радостно пихает условия типа true == true
невозможно победить галлюцинации ИИ, потому что "галлюцинации" это они для нас, а с точки зрения самого тензора для него всё норм.
Это домыслы от людей которые не понимают как работают нейронки в частности и аи вообще.
Галлюцинации объективны. Это несоответствие вывода модели объекта объекту. Локальный скачок функции потерь. Если модель не соответствует объекту - её уточняют. Или, в данном случае, до обучают.
К тому же вы неправильно использовали термин тензор. С точки зрения тензора всегда всё норм. тензор это просто многомерная величина. Набор цифр. Минимальная структурная единица нейросети состоит как минимум из линейного слоя - умножения тензоров aka входного вектора на матрицу весов, а затем слоя покомпонентного применения функии активации.
Тензорное умножение это стадия анализа информации, функция активации - фаза принятия решения. И функция активации ни при каких условиях не может быть тензорной операцией.
Так что галлюцинаций вообще не существует на уровне тензоров или даже на уровне тензорных слоёв. Галлюцинации возникают на структурном уровне, из-за за того что умножение текущих весов с конкретными входными данными приводит к неверному срабатыванию функций активации.
С третьей стороны - gwarlock вряд ли имел в виду настоящие галлюцинации. Он скорее всего имел в виду ошибки в логике и плохую структуру кода, возникающие из-за того, что у сеток не хватает именно интеллектуальных возможностей.
Галлюцинации объективны. Это несоответствие вывода модели объекта объекту. Локальный скачок функции потерь. Если модель не соответствует объекту - её уточняют. Или, в данном случае, до обучают.
К тому же вы неправильно использовали термин тензор. С точки зрения тензора всегда всё норм. тензор это просто многомерная величина. Набор цифр. Минимальная структурная единица нейросети состоит как минимум из линейного слоя - умножения тензоров aka входного вектора на матрицу весов, а затем слоя покомпонентного применения функии активации.
Тензорное умножение это стадия анализа информации, функция активации - фаза принятия решения. И функция активации ни при каких условиях не может быть тензорной операцией.
Так что галлюцинаций вообще не существует на уровне тензоров или даже на уровне тензорных слоёв. Галлюцинации возникают на структурном уровне, из-за за того что умножение текущих весов с конкретными входными данными приводит к неверному срабатыванию функций активации.
С третьей стороны - gwarlock вряд ли имел в виду настоящие галлюцинации. Он скорее всего имел в виду ошибки в логике и плохую структуру кода, возникающие из-за того, что у сеток не хватает именно интеллектуальных возможностей.
Я бы поспорил с утверждением "она работает как средний человек под веществами".
На самом деле сегодняшние нейронки пишут код хуже мотивированного новичка. Они прямо жестко упирается в механизм внимания, к тому же большая часть llm сейчас построена по принципу encoder-only, что ещё больше сужает контекст внимания. Т.е. у нейронок очень ограниченно количество информации, которую они могут держать в голове.
К тому же стандартные LLMки довольно плохо работают с иерархическими данными. Иерархические нейронки уже существуют, но они пока что жрут память внимания ещё более адски, чем линейные.
То, что код от нейронок выглядит неплохо заслуга не "качества нейронок" а того, что их натаскивают на "хороший стиль" и очень высокоуровневый код. Я год назад просил чатжпт и гемини сделать простенький алгоритм на си на fixed point - довольно тривиальная вещь, но редко встречающаяся в репах на гитхабе. Как же они страдали.
На самом деле сегодняшние нейронки пишут код хуже мотивированного новичка. Они прямо жестко упирается в механизм внимания, к тому же большая часть llm сейчас построена по принципу encoder-only, что ещё больше сужает контекст внимания. Т.е. у нейронок очень ограниченно количество информации, которую они могут держать в голове.
К тому же стандартные LLMки довольно плохо работают с иерархическими данными. Иерархические нейронки уже существуют, но они пока что жрут память внимания ещё более адски, чем линейные.
То, что код от нейронок выглядит неплохо заслуга не "качества нейронок" а того, что их натаскивают на "хороший стиль" и очень высокоуровневый код. Я год назад просил чатжпт и гемини сделать простенький алгоритм на си на fixed point - довольно тривиальная вещь, но редко встречающаяся в репах на гитхабе. Как же они страдали.
Я не согласен с таким анализом. Скажем в одном проекте мне нужно было сделать фронтоподелие. Тут джун может бы справился, но нейронка нафигачила за пару дней то что у джуна заняли бы недели если не больше: медиа квери, мобильный и десктопный лейаут, адаптивность, гриды, сортируемые графы, всякое такое.
Ну ок. Другая задача - нужно написать эффектиное преобразование целого произвольной точности во флоат. Ну типа 124436534763476347235235235235 => 1.244265e23. Речь именно про эффективно - то есть никаких toString().parseFloat(). Тут начинается всякая дрочь с битовой магией - сдвиги мантиссы, сигнальные биты, знаковые наны - все нужно учесть и получить код который за десяток сдвигов и умножений получит нужное число. Нейронку я мучал часа 4 пока - причем первый код работал адекватно для всех случаев кроме краевых, которые собственно я еще часа 3 с ней дорабатывал. Стандартный джун такое даже близко не осилит, если он читал статью "что каждый разработчик должен знать о числах с плавающей точкой" то это уже огого и исключение, но одной статьи не хватило бы чтобы адекватно реализовать этот код.
Таких примеров в моем опыте хватает. Поэтому я согласен выше что нейронка пишет вполне как средний разраб, но при этом средний во всех областях разраб. Если ты всю жизнь писал реакт а тебе понадобилось байтоебство - у тебя есть помощь, и наоборот всю жизнь писал под микроконтроллеры и понадобилось сайт зафигачить - тоже нормально справится. При этом общего опыта обычно достаточно чтобы оценить качество решения, это всегда проще, чем сделать руками.
Так случай с преобразованием как раз подтверждает мою точку зрения.
Джун не сможет решить эту задачу потому что он не знает. Если джун мотивирован то достаточно дать ему ссылки на статьи и общую идею. Ему понадобится изучить новый материал, это займёт время, но за день-два под присмотром справится даже совсем делёный. Второй раз такая задача у него займёт уже четыре-пять часов. А в третий раз он справится за пол часа. Потому что уже будет знаком с предметной областью. (Я здесь предполагаю, что мотивированный джун не использует LLM для написания кода. иначе он сделает задачу за 6 часов и ничему не научится)
LLM УЖЕ ЗНАЕТ о битовой арифметике больше чем я и ты вместе взятые. Но всё равно на простейшую задачку у него уходит четыре часа. И если ты попросишь ту же задачу во второй раз - снова уйдёт четыре часа. И он снова решит задачу неправильно и понавешает косяков в новых местах.
Именно то что я и говорю - АИ знает как писать красивый код, знает много примеров и хорошо решает типовые задачи. Но программирует она хуже мотивированного джуна, потому что как только джун узнаёт предметную область он начинает выигрывать у LLMки на нетиповых задачах.
Кстати говоря - самый правильный способ оптимально преобразовать произвольное целое во float - использовать приведение типов языка. В большинстве систем есть специальные ассемблерные операции которые позволяют сделать именно то что ты хочешь за одну-две инструкции и пару машинных циклов, воспользовавшись аппаратным преобразователем.
Джун не сможет решить эту задачу потому что он не знает. Если джун мотивирован то достаточно дать ему ссылки на статьи и общую идею. Ему понадобится изучить новый материал, это займёт время, но за день-два под присмотром справится даже совсем делёный. Второй раз такая задача у него займёт уже четыре-пять часов. А в третий раз он справится за пол часа. Потому что уже будет знаком с предметной областью. (Я здесь предполагаю, что мотивированный джун не использует LLM для написания кода. иначе он сделает задачу за 6 часов и ничему не научится)
LLM УЖЕ ЗНАЕТ о битовой арифметике больше чем я и ты вместе взятые. Но всё равно на простейшую задачку у него уходит четыре часа. И если ты попросишь ту же задачу во второй раз - снова уйдёт четыре часа. И он снова решит задачу неправильно и понавешает косяков в новых местах.
Именно то что я и говорю - АИ знает как писать красивый код, знает много примеров и хорошо решает типовые задачи. Но программирует она хуже мотивированного джуна, потому что как только джун узнаёт предметную область он начинает выигрывать у LLMки на нетиповых задачах.
Кстати говоря - самый правильный способ оптимально преобразовать произвольное целое во float - использовать приведение типов языка. В большинстве систем есть специальные ассемблерные операции которые позволяют сделать именно то что ты хочешь за одну-две инструкции и пару машинных циклов, воспользовавшись аппаратным преобразователем.
Ну давай простой пример. Я люблю играть в старкрафт, и после очередного анализа билд ордера с ютуба задался вопросом "а нельзя ли просто программкой реплей проанализировать и билд ордер из него составить". Ок, берем кодекс, говорим "сделай хорошо", ждем 20 минут, получаем:
Вопрос - сколько во-твоему замотивированному джуну нужно времени, чтобы понять, как реплеи кодируются, какие эвенты там нужно матчить, как получить из событий игры нужные данные итп?
под веществами - это в хорошем или в плохом смысле?
Ну не знаю, нам клод за 5 минут и 500 рублей написал код конвертера i2c to usb-hid и он работал именно так как нам надо, запустился сразу, без единой ошибки, весь код был с комментариями что где за что отвечает и можно было при необходимости с этим работать дальше. Самое интересное что у наших коллег этим же вопросом занимался штатный программист и за 3 года он так и не смог сделать конечный исправный код, работающий без ошибок. Другое дело что составить для клода ТЗ где прописано где что и как должно работать, с выжимками из документации заняло у нас дня 3, но всё же.
Он потом его отладит
Теперь показывай как свои глюки в коде отлаживает ИИ.
Теперь показывай как свои глюки в коде отлаживает ИИ.
Да блин, как по мне все беды c ИИ из-за 3х вещей: из-за vibe кодеров которые не видят границ своей применимости (хотя они пиздец как есть), из-за охуевших CEO которые делают для нейросетей лютый oversell и как следствие попытки инвесторов купить всё оборудование в мире хуй пойми зачем (нет никаких доказательств что люди не наиграются через пару лет с LLM ровно так же как наигрались с генерацией картинок, bitcoin, nft и любой другой трендовой технологией).
Да, можно попросить ИИ отладить код, и да, часто они его реально отладят.
Но для того чтобы понять что какой то конкретный код вообще нужно (или не нужно) отлаживать, нужно хотя бы быть способным его прочитать и понимать как именно он работает и к каким долгосрочным последствиям его работа приведет. И с LLM вечная проблема - пока ты сам не спросишь про какую-то потенциальную проблему - хуй они тебе скажут что эта проблема наклёвывается (хотя они про неё "знают" в каком-то собственном смысле).
Но для того чтобы понять что какой то конкретный код вообще нужно (или не нужно) отлаживать, нужно хотя бы быть способным его прочитать и понимать как именно он работает и к каким долгосрочным последствиям его работа приведет. И с LLM вечная проблема - пока ты сам не спросишь про какую-то потенциальную проблему - хуй они тебе скажут что эта проблема наклёвывается (хотя они про неё "знают" в каком-то собственном смысле).
А чтобы писать нормальный код - нужно постоянно жечь кучу токенов даже не столько на постоянное переписывание, сколько на чтение всех hardening инструкций которые будут достаточно подробно задавать цель. Причем почти всегда количество контекста к количеству полезной генерации относится как примерно 70%/30%. Т.е. условно ради 3х строчек полезного кода нужно написать 7 строчек подробных инструкций что и как именно тебе нужно. Токены при этом улетают - пиздец как быстро, и чаще проще руками что то сделать чем просить.
Поэтому весть vibe кодинг от не специалистов всегда будет ограничен велосипедостроительством потому что для строительства велосипеда тебе обычно не нужен 10ти томник спецификаций, каждой странице которого нужно соответствовать.
Вот поэтому навайбкодить консольную тулзу за вечер - можно
А например навайбкодить браузер который сможет сходить в интернет и что-то нормально отрендерить - you can fucking try
Ну так об этом и речь. Если я джуну ткну в конкретную проблему - он её скорее всего исправит. Но сам не найдёт. С ИИ тоже самое - он не может сам "отладить", он может только исправить.
Теперь сравниваем цену джуна и ИИ. Всё, конец истории.
Теперь сравниваем цену джуна и ИИ. Всё, конец истории.
Братан, что значит с первого раза? Ты думаешь программисты херачат длинную портянку кода, запускают и она сразу работает? Для любого нетривиаьного когда создаётся цикл обратной связи и код пишется интерактивно маленькими кусочками.
Да правок бы и не было, ты бы и не написал игру. Я уже не помню что за "компуктер" к нам приносили. Я "писал" игру по "книжке". Да просто перепечатвывал код, какой то пошаговой стратежки.
Эту игру можно было бы на флопи диск записать и запихнуть туда еще и 1.34мб порно.
Они ловят глюки когда ты пишешь без плана, типо давай, сделай мне, э, программировай
В целом можно так +- далеко уйти, но в код будет страшно смотреть
Надо сначала рассказать ему какой будет стек, какие решения и куда, какая архитектура, структура папок, какие патерны, по какой логике писать проект
После пишешь с ним план, с чекбоксами, что и куда, чтоб после вылета контекста не забылся, читаешь этот план, правишь, пока оно не станет на грани микроменеджмента, и после этого отпускаешь клод - плыви сосиска
И вот тогда получается неплохо, обычно ИИ юзают либо чисто вайбкодеры, либо чисто кодеры, одни доверяют ИИ слишком много, а другие не доверяют вообще (либо пробуют юзать как волшебную кнопку и ожидаемо получают фиговый результат)
Это путь вайбкодера постигшего ДАО. Из такого когда нибудь получится неплохой программист, если успеет.
Вообще, если архитектура определена, проще сразу кормить нейросеть ТЗ на модули в духе:
"Напиши модуль который делает это, это, это, это. Используй модуль такой то, интерфейс такой-то, и модуль такой-то, интерфейс такой-то. Напиши юнит тесты."
Так и токенов меньше уходит, и углекислотный след меньше, и генерация лучше, потому что чем плотнее упакована информация в контексте, тем меньше шансов что трансформер что-то забудет.
Вообще, если архитектура определена, проще сразу кормить нейросеть ТЗ на модули в духе:
"Напиши модуль который делает это, это, это, это. Используй модуль такой то, интерфейс такой-то, и модуль такой-то, интерфейс такой-то. Напиши юнит тесты."
Так и токенов меньше уходит, и углекислотный след меньше, и генерация лучше, потому что чем плотнее упакована информация в контексте, тем меньше шансов что трансформер что-то забудет.
Люди есть люди, АИ есть аи. Я не считаю, что АИ в текущем виде способно заменить живого программиста, или уж тем более проектанта. Но и вставать вставать в ряды лудитов я не намерен.
АИ это инструмент. И мне плевать насколько сильно ты ненавидишь мой молоток. Но если это принципиальный вопрос - могу построить тебе дом без него, но это будет стоить в 5 раз дороже.
АИ это инструмент. И мне плевать насколько сильно ты ненавидишь мой молоток. Но если это принципиальный вопрос - могу построить тебе дом без него, но это будет стоить в 5 раз дороже.
Это не панацея. Даже обмазываясь опенспеками/планами/чекбоксами необходимо валидировать каждую строчку что генерируется из слоп-машины. У меня по опыту ни разу не было такого что бы не пришлось бэбиситить опус даже имея строжайший план (который тоже надо валидировать построчно, часто пробирается чушь). В итоге вместо того что бы написать код самому, прогрессируя органично от простого к сложному, попутно валидируя имплементацию с реальностью, опус наваливает свою имплементацию по строгому плану которая бывает еще и некорректна. А потом смотришь usage - 250$ денег компании за день. Лучше бы мне эти деньги накинули.
По ощущениям, наверное, удачно получается так сделать где то 2 задачи из 10, которые прям с первого/второго раза получаются. Из-за этого получается игра в рулетку - а вдруг и сейчас повезёт? Органично писать код вручную уже никакого желания не возникает из-за этого ощущения. Остальные же случаи это уходить с ним на дни в переписывания либо ллмкой либо уже даже вручную.
Пока самая большая польза от ЛЛМ для меня - это помощь в оптимизации бюрократии, анализ логов и метрик (это вообще пушка и экономия времени грандиозная), быстрый вход в незнакомые кодовые базы и тп. Но генерация кода - особо выигрышей нет (иногда есть, но в большинстве случаев утопаешь в болоте).
По ощущениям, наверное, удачно получается так сделать где то 2 задачи из 10, которые прям с первого/второго раза получаются. Из-за этого получается игра в рулетку - а вдруг и сейчас повезёт? Органично писать код вручную уже никакого желания не возникает из-за этого ощущения. Остальные же случаи это уходить с ним на дни в переписывания либо ллмкой либо уже даже вручную.
Пока самая большая польза от ЛЛМ для меня - это помощь в оптимизации бюрократии, анализ логов и метрик (это вообще пушка и экономия времени грандиозная), быстрый вход в незнакомые кодовые базы и тп. Но генерация кода - особо выигрышей нет (иногда есть, но в большинстве случаев утопаешь в болоте).
> Но генерация кода - особо выигрышей нет
Вспомнил где все же выигрыш относительно большой для меня - это если нужно сделать условно несколько тривиальных изменений в нескольких репозиториях - довольно удобно его на них натравить и на выходе получить уже готовые PR. Какие-нибудь code first конфигурации например и тп, т.е. так же хорошая оптимизация всяких git действий на многих репах. Туда же всякие диагностики кубера, тоже очень удобно, да.
Вспомнил где все же выигрыш относительно большой для меня - это если нужно сделать условно несколько тривиальных изменений в нескольких репозиториях - довольно удобно его на них натравить и на выходе получить уже готовые PR. Какие-нибудь code first конфигурации например и тп, т.е. так же хорошая оптимизация всяких git действий на многих репах. Туда же всякие диагностики кубера, тоже очень удобно, да.
Все пишут с багами. Вопрос в поцентном отношении багов.
У человека примерно так
Синтаксические ошибки - 80%
Ошибки в духе undefined beavior, boundary miss и неправильное применение API - 19%
Логические ошибки нарушающие структуру проекта или приводящие к неправильной работе - 1%
У аи примерно так:
Синтаксические ошибки - 0%
Ошибки в духе undefined beavior, boundary miss и неправильное применение API - 10%
Логические ошибки нарушающие структуру проекта или приводящие к неправильной работе - 90%
У человека примерно так
Синтаксические ошибки - 80%
Ошибки в духе undefined beavior, boundary miss и неправильное применение API - 19%
Логические ошибки нарушающие структуру проекта или приводящие к неправильной работе - 1%
У аи примерно так:
Синтаксические ошибки - 0%
Ошибки в духе undefined beavior, boundary miss и неправильное применение API - 10%
Логические ошибки нарушающие структуру проекта или приводящие к неправильной работе - 90%
Всё, всё, понял, элитные инженеры, не формошлёпы.
Кроме шуток, недовольство объяснимо, чем меньше база языка/пул целевых устройств, тем хуже это всё справляется, чем не обмазывай, последний крупный скачок был связан с reasoning, но это всё равно далеко от надёжного инструмента.
Никакого недовольства. Я пользуюсь LLM для разных задач, в том числе для кодинга. Просто в силу причин понимаю ограничения.
LLMки хорошо пишут простой, близкий к линейному, высокоуровневый код. И хорош в задачах которые часто встречаются на гитхабе. Он вывозит на том, что шаблонный код - шаблонный. У него низкая энтропия и легко предсказать что будет дальше.
А вот структуру предметной области AI понимает плохо. И он не умеет ставить самому себе задачи. По этому если он не угадал с первого раза что вот в этом случае нужно поставить проверку, проверки там не будет.
Работа программиста не в том, что бы писать код, как это не странно. Работа программиста в том, что бы его код делал то, что от него требуется. А с этим у всех LLM большие проблемы. У них механизм внимания не рассчитан на одновременное внимание в тысячу разных мест.
LLMки хорошо пишут простой, близкий к линейному, высокоуровневый код. И хорош в задачах которые часто встречаются на гитхабе. Он вывозит на том, что шаблонный код - шаблонный. У него низкая энтропия и легко предсказать что будет дальше.
А вот структуру предметной области AI понимает плохо. И он не умеет ставить самому себе задачи. По этому если он не угадал с первого раза что вот в этом случае нужно поставить проверку, проверки там не будет.
Работа программиста не в том, что бы писать код, как это не странно. Работа программиста в том, что бы его код делал то, что от него требуется. А с этим у всех LLM большие проблемы. У них механизм внимания не рассчитан на одновременное внимание в тысячу разных мест.
У меня есть домашний проект, игрушка типа slay the spire. Там в районе 15к строк кода, полностью рабочие механики. Я не программист, до нейронок по работе скриптики писал конечно, но ничего больше 1000 строк не делал. Иногда приходилось "на пальцах" объяснять какие формулы использовать для реализации фич, но в целом оно само. Мне очень нравится, что я могу реализовать то, на что раньше не хватало умений.
С другой стороны, нейронки уже сейчас вполне заменяют джунов, а без джунов не появится и новых синьоров.
Никто не спорит, в этом нейронки хороши (пет проекты, домашние улучшалки, прототипы, одноразовые проекты и тп). А теперь попробуйте сделать из этого продукт: получать за это деньги, организовать долгосрочную поддержку, привносить новые механики, не ломая старые, править ошибки и тп. Не зная технологии на которых нейронки это написали все посыпится моментально. Возможность нейронками делать такие пет проекты и прототипы никак не выливается в замену джунов, это абсолютно разные задачи.
У меня тут платный ChatGPT в одном диалоге хуярил отладочный вывод в startup ядра ARM-проца, а в другом - на, говорит, скачай этот маленький звуковой файлик, который я сгенерил для проверки, а файлика нет, говорю ему - файлика нет, в ответ он мне сгенерировал изображение аля-скриншот на скачку звукового файла, я орнул
или скриншот исходного кода, вместо текста, на что у меня по-нейросетевому прозвучало в голове "результат неожиданный, но полезный"
> Контора задумалась купить просто свой сервак и поднять у себя
Контора видимо думает, что лоботомизированные (простите, квантованные) LLM хотя бы близко приближаются по качеству написания кода к любому облачному решению.
Если нет бабок на то чтобы крутить дипсик в оригинале (а это серверная стойка за сотни нефти, а не один сервак, ибо видеопамяти для последнего дипсика требуется что-то в районе 1.5тб) - это будет боль и страдания с очень плохим выхлопом. Если клод, гопота или дипсик - это джун под грибами, то локальные нейронки на consumer/prosumer железе - это чувак с жестким отставанием в развитии.
Как бы да, но как бы нет.
Внутреннему корпоратинвому АИ в отличие от дикпика не нужно знать особенности брачных игр сычуанских шимпанзе или 312 способов завязывать шнурки. А гитхаб суют во все более менее крупные LLM. Так что код писать оно будет, и при правильном подходе - будет это делать не плохо. Но вероятно придётся изменить подход к промптингу.
К тому же у маленькой, зато своей модели есть то преимущество, что такие модельки можно дообучить на конкретном коде, привить корпоративные конвенции и всячески настроить под себя.
С другой стороны сервер/стойка будут не самыми большими расходами компании на свой личный свечной заводик - для нормальной работы этого сервера потребуется ещё хороший спец по интеграции (достать готового или ростить своего будет одинаково затратно). Ну и нельзя забывать, что аи сервера слегка отличаются от обычных серверных стоек по требованию к инфраструктуре - жрут лепездричество, греются как не в себя, любят широкополосные коммуникации и быстрые файловые хранилища.
Внутреннему корпоратинвому АИ в отличие от дикпика не нужно знать особенности брачных игр сычуанских шимпанзе или 312 способов завязывать шнурки. А гитхаб суют во все более менее крупные LLM. Так что код писать оно будет, и при правильном подходе - будет это делать не плохо. Но вероятно придётся изменить подход к промптингу.
К тому же у маленькой, зато своей модели есть то преимущество, что такие модельки можно дообучить на конкретном коде, привить корпоративные конвенции и всячески настроить под себя.
С другой стороны сервер/стойка будут не самыми большими расходами компании на свой личный свечной заводик - для нормальной работы этого сервера потребуется ещё хороший спец по интеграции (достать готового или ростить своего будет одинаково затратно). Ну и нельзя забывать, что аи сервера слегка отличаются от обычных серверных стоек по требованию к инфраструктуре - жрут лепездричество, греются как не в себя, любят широкополосные коммуникации и быстрые файловые хранилища.
Заново обучать даже что-то уровня локальной LLM это очень плохая идея. Требование по размеру датасета и затратам на обучение растут не ниже чем квадратично размерам модели.
Много подходящих предварительно обученных моделей есть в открытом доступе. Например на huggingface.co. Модель требуется дообучить. И я написал в последнем абзаце что для этого потребуется хороший спец. А ещё вероятно небольшая кучка бабла на подготовку датасета, потому что это тоже не то что бы просто.
Много подходящих предварительно обученных моделей есть в открытом доступе. Например на huggingface.co. Модель требуется дообучить. И я написал в последнем абзаце что для этого потребуется хороший спец. А ещё вероятно небольшая кучка бабла на подготовку датасета, потому что это тоже не то что бы просто.
Тогда я не пойму.
Предлагалось вместо готового многотерабайтного облачного ИИ пользовать некий "лоботомизированные" локальный, размером в стоечку в серверной.
И откуда такое возьмётся, кроме как "выращивать с нуля". А выращивать с нуля, как по мне, такое себе, это прям классическая "доменная печечка на крестьянском подворье"
Предлагалось вместо готового многотерабайтного облачного ИИ пользовать некий "лоботомизированные" локальный, размером в стоечку в серверной.
И откуда такое возьмётся, кроме как "выращивать с нуля". А выращивать с нуля, как по мне, такое себе, это прям классическая "доменная печечка на крестьянском подворье"
Про "лоботомизированные" это у плохо обученного на проблемах AI Alexsey'а галлюцинация случилась. Не обращай внимания.
Такое берётся со специальных сайтов, я в посте указал курпнейший на сегодняшний момент - http://huggingface.co
У разных моделей разные требования к памяти. Но там много таких, для обучения которых потребуется та самая стоечка.
(Если в имени модели есть строка -xxB- где xx - число больше 8, то даже просто запустить такую модельку на бытовой видеокарте скорее всего выйдет только в очень медленно режиме. Хотя из этого правила есть исключения. Что бы эффективно учить (и доучивать) модели видеопамяти должно быть гораздо больше чем для выполнения.
https://clocks.brianmoore.com/ Есть же много проектов простых по которым можно оценить качество и повторяемость результата. Проблема LLM не в том что она чего -то не может, проблема в том, что она не может повторить удачные решения и тратить время, деньги и ресурсы (электричество и воду в основном) на то то чтобы каждый раз изобретать велосипед.
Чтобы написать коммент, необходимо залогиниться
Отличный комментарий!