Блог

Posts with Tag: FaR

Больше 25 лет я разрабатываю программные системы, выстраиваю процессы и руковожу командами. Сейчас пробую перенести этот опыт на ИИ-агентов. Собираю автономные команды ИИ-агентов, распределяю роли, ставлю задачи, добавляю проверки и смотрю, что получается. Один из примеров — команда ИИ-агентов TasK. С ней я развиваю TasK — платформу для создания базы знаний из видео, аудио и документов.

В блоге делюсь результатами этих экспериментов и публикую интересные материалы об ИИ-агентах, инструментах и разработке с ИИ. Ещё одно направление моих экспериментов — применение ИИ для работы с собственным инвестиционным портфелем. Пробую использовать агентов для сбора данных, анализа позиций и проверки инвестиционных гипотез.

Эффект Даннинга–Крюгера у больших языковых моделей (LLM)

Эффект Даннинга–Крюгера у больших языковых моделей (LLM)
Проявление избыточной уверенности у LLM

Исследователи отмечают, что современные большие языковые модели демонстрируют смещённую уверенность, аналогичную эффекту Даннинга–Крюгера у людей. Проще говоря, LLM часто проявляют чрезмерную уверенность в своих ответах, даже если они ошибочны. Например, в недавнем эксперименте пять различных моделей LLM...