Автор: Технологическая сингулярность в контексте ИИ это не из мира научной фантастики, а ситуация, когда скорость эволюции ИИ превзойдет способность человечества по адаптации трансформационных возможностей ИИ, что приведет к непредсказуемым последствиям.
Одной из важнейшей характеристикой движения к сингулярности является способность ИИ к самоконтролю и самообучению, т.е. к коррекции ошибок и самоулучшению на основе полученного опыта.
С этого момента моментально начинается экспоненциальный рост возможностей ИИ из-за специфики работы ИИ на основе огромных массивов информации и вычислительных кластеров, что на много порядков обгонит лучшие в мире научные коллективы.
При этом я не склонен принижать даже текущие (достаточно ущербные) возможности ИИ и ГИИ, т.к. многие исходят из безосновательной гипотезы особого превосходства человеческого мозга над машинным интеллектом.
/Генеративный искусственный интеллект (ГИИ, англ. Generative Artificial Intelligence, GAI) – это класс алгоритмов и моделей, которые используются для создания нового контента, такого как тексты, изображения, музыка и прочих видов./
Способности к:
• творческому и многовекторному абстрактному мышлению,
• выстраиванию сложных многомерных конструкций и иерархических связей,
• понимаю причинно-следственных связей и логических цепочек,
• гибкости мышления и способность к схватыванию новой информации и обучению на основе опыта,
• пониманию неоднозначного контекста и отделению правды от лжи,
• эффективной балансировки вероятностей на основе анализа информации,
• планированию, прогнозированию на основе анализа полученного опыта и текущей информации и многое другое.
Вот всем этим в совокупности или в отдельности в различной пропорции наделены не более 2-5% от человеческой популяции (до 7-10% в богатых, образованных развитых странах), т.е. все остальные весьма глупы до полной беспросветной глупости с точки зрения возможностей современных ИИ.
По самым скромным оценкам, даже текущие слабые версии ГИИ превосходят 95% человечества по уровню когнитивных возможностей.
Учитывая низкую скорость развития человеческого мозга (по меркам ИИ), что будет, если через некоторое время (весьма близкий горизонт, учитывая темпы развития ИИ), современные модели ГИИ превзойдут 99% человечества по уровню когнитивных способностей?
Есть безусловно слабые места у ГИИ: непрерывное галлюционирование, смешивание правды и вымысла, неспособность выстраивать и модулировать причинно-следственные связи, проблемы с улавливанием нюансов и скрытого контекста, поверхностное понимание сложных ситуаций, проблемы с последовательностью рассуждений, проблемы с переносом знаний из одной области в другую и т.д.
Однако, фиксация на проблемах допустима, если принять за аксиому, что дальнейшая эволюция ГИИ остановлена, что совсем не так. Скорее наоборот, развитие расположено на низшей точке параболического взлета.
Важнейшим преимуществом ИИ над человеком являются:
• несоразмерно более высокая скорость обработки информации,
• скорость обучения, которая может быть в десятки и сотни тысяч раз выше, чем у человека (несколько минут или часов vs 5-20 лет у человека),
• память в рамках огромного массива проиндексированной информации vs постоянной забывчивости у человека, что требует постоянного возврата в исходную точку для воспроизводства забытой информации, снижая общую производительность,
• быстрая адаптация к изменениям,
• равномерная производительность в отличие от эмоциональных, физических и биологических циклов у человека,
• масштабируемость (возможность быстрого копирования, распространения и внедрения).
Очевидно, что эволюция алгоритмов ГИИ (1) + рост производительности вычислительных систем (2) + обучение на все большем массиве данных (3) в долгосрочной перспективе будут творить чудеса, это вопрос времени.
Да, есть проблемы в качестве набора данных, есть проблемы в коррекции ошибок, но это все исправило со временем. Фундаментальные преимущества остаются за ИИ/ГИИ и в этом нет никаких сомнений.
В скором времени ГИИ достигнут достаточного порога зрелости, когда начнут оказывать существенное влияние на научно-технический прогресс и экономику.
Текущие модификации ГИИ пока мало пригодны для прикладных задач и коммерческих/бизнес проектов, кроме генерации медиа-скама и ограниченного применения в узко специализированных задачах (решении проблем в программировании, некоторых математических задачах, синхронный перевод и т.д).
Предстоит еще много работы и достаточно много времени, прежде чем ГИИ станут весомым фактором в экономике, финансах и технологиях, меняющих правила игры.
Нужно понимать, что скорость изменения настолько высока, что текущий срез проблем в ГИИ может быть неактуальным через полгода или даже месяц по мере внедрения инноваций, модификаций и адаптаций новый версий ГИИ.
Есть у ГИИ особое свойство, когда при обучении на сверхбольшом объеме параметров начинается нелинейный прогресс в эффективности обучения (нелинейный рост производительности, непредсказуемость появления новых свойств), что увеличивает и улучшает понимание контекста и способствует росту возможностей в рассуждении.
Именно поэтому прогресс в рамках развития ГИИ является непредсказуемым.
На протяжении двух лет я внимательно слежу за всеми новинками в сегменте ИИ, используя, тестируя или адаптируя все передовые модели и решения (o1 pro, Claude 3.5 Sonnet, Gemini 2.0 Flash, Amazon Nova Pro, Llama 3.3, Mistral Large, Grok, Qwen 2.5).
Что можно отметить по прогрессу ИИ за год?
• Прогресс в 2024 не такой значительный, как в 2023 с точки зрения качества анализа, с каждый годом «качественный рывок» будет все менее выраженный из-за эффекта базы, а стоимость прогресса будет увеличиваться;
• Значительно расширилось контекстное окно за год;
• Значительно расширился функционал моделей в рамках пользовательского интерфейса и инструментов взаимодействия (например, «Холст», «Проекты» и «Поиск» в ChatGPT);
• Повысилась точность и стабильность моделей;
• Появление моделей с рассуждениями.
При этом модели все также категорически не пригодны для точных расчетов и аналитики, каждый раз создавая нестабильные диапазоны ответов/решений вместо идентичных результатов.
Я активно пытался внедрять ГИИ в свои научно-исследовательские и аналитические проекты в январе-марте 2024, но без результатов – полный провал из-за того, что контроль и верификация результатов требует несоизмеримо больше ресурсов, чем любая потенциальная выгода от ГИИ.
Проще все делать так, как раньше (самому, используя накопленные наработки), т.к. внедрение ГИИ больше создает проблем и отжирает ресурсы, чем создает возможности и улучшает производительность.
Несмотря на провальный опыт, я все верю и абсолютно убежден в том, что будущее за ИИ.
Не следует возлагать слишком больших надежд на ИИ-агенты (по крайней мере, на начальном этапе), так широко рекламируемые весь 2024 год. Это лишь улучшенные VBA макросы Excel, существующие более 30 лет.
Смысл внедрения ИИ-агентов состоит в автоматизации рутинных задач в рамках узко специализированных задач. Достаточно примитивная штука. Это не та вундерфавля, которая изменит человечество.
В перспективе ИИ агенты будут брать на себя все больше разнообразных задач и допускать пространство маневра, здесь уже интересно, но пока до этого далеко.
Гораздо интереснее не ИИ скрипты под видом ИИ-агентов, а модели с рассуждением и логическими цепочками, которые были впервые внедрены OpenAI в начале осени 2024.
Это меня впечатлило значительно больше, чем все предыдущие инновации за год. Это открывает дорогу к существенному росту прогресса в решении сложных задач и замене в перспективе консорциума низко и среднеквалифицированных ученых на ИИ модули с рассуждениями, которые будут эволюционировать и улучшаться.
Последняя итерация o1 PRO в середине декабря (за 200 баксов в месяц) вполне соответствует топовым ученым по многим вопросам (убедился сам, когда она позволила решить задачу, над которой бился пару лет).
Это лишь спустя три месяца после внедрения? Впереди релиз более мощной o3 в начале 2025.
