Сооснователь Ethereum Виталик Бутерин считает, что современные системы искусственного интеллекта обладают огромным объёмом знаний, однако это ещё не означает способности глубоко понимать новые идеи.
29 октября Бутерин написал в соцсети, что считает ИИ «чрезвычайно осведомлённым» и способным обнаруживать отсылки практически к чему угодно, но при этом «не очень мудрым». По его мнению, при анализе текстов модели нередко ограничиваются поверхностным пониманием того, какую именно мысль пытается донести автор.
Особенно заметным этот недостаток становится, когда ИИ впервые сталкивается с новым текстом. Как объяснил Бутерин, при работе с известными произведениями модель может опираться на большое количество уже существующих человеческих интерпретаций, присутствующих в обучающих данных. Для совершенно нового материала такой возможности нет.
Некоторые издания отмечают, что Бутерин проводит различие между способностью ИИ распознавать информацию и способностью самостоятельно оценивать смысл нового аргумента.
Это заявление продолжает более ранние рассуждения разработчика о развитии ИИ. В июле Бутерин предложил отказаться от сравнения человека и машины по одной шкале интеллекта. По его мнению, и люди, и машины обладают множеством отдельных способностей, от физических навыков до стратегического мышления, математики и эмоционального интеллекта.
Бутерин тогда предположил, что прогресс ИИ правильнее рассматривать как постепенное расширение числа областей, в которых машина превосходит человека. Иными словами, искусственный интеллект не обязательно должен в один момент стать «умнее человека» во всём, он может получать навык за навыком.
При этом Бутерин не считает доказанным, что нынешние большие языковые модели смогут воспроизвести весь набор человеческих способностей. В июльском рассуждении он оставлял открытым вопрос, достаточно ли архитектуры LLM и связанных с ней технологий для преодоления оставшихся ограничений.
Новое заявление очерчивает одну из таких границ: способность найти факты, ссылки и знакомые закономерности ещё не гарантирует глубокого понимания совершенно новой идеи. Для криптоиндустрии, где ИИ всё активнее используется при изучении технических документов, исследований и предложений по управлению протоколами, это означает, что убедительно сформулированное резюме не всегда равнозначно полноценному анализу.
Будь в курсе! Подписывайся на Телеграм.
