Чрезмерная делегация функций искусственному интеллекту может привести к деградации системы контроля качества внутри компаний. К такому выводу пришел бизнес-эксперт Трепольский в интервью изданию «Газета.Ru». По его словам, основная опасность заключается в том, что работники постепенно теряют понимание сути исходных данных и механизмов выполнения промежуточных операций, превращаясь в пассивных наблюдателей за готовым результатом.
Проблема усугубляется способностью генеративных моделей к созданию крайне убедительного, но ложного контента. Трепольский предупреждает:
нейросети могут с абсолютной уверенностью выдавать вымышленные факты, неверные формулы или несуществующие законодательные акты.
При беглом ознакомлении с текстом или таблицей такие ошибки практически невозможно заметить.
Чтобы избежать подобных ловушек, эксперт предлагает внедрить трехэтапную модель взаимодействия с технологиями. Сначала человек самостоятельно формулирует задачу, учитывая все необходимые параметры и ограничения. На втором шаге ИИ берет на себя рутину и обработку массивов информации. Завершает цикл обязательная проверка специалистом и принятие окончательного решения.
Для эффективного надзора за нейросетями сотрудникам критически важно обладать фундаментальными знаниями в своей профессиональной области. Трепольский полагает, что для новичков одного лишь умения составлять промпты недостаточно — приоритетом должно стать развитие навыков глубокого анализа и аргументации выводов. Кроме того, эксперт советует периодически выполнять задачи традиционным способом и строго придерживаться протоколов работы с данными, ведь автоматизация процессов не освобождает человека от персональной ответственности за итог.
Ранее доцент экономического факультета РУДН Никита Столяров указывал на то, что внедрение ИИ приносит выгоду бизнесу, однако может негативно сказаться на уровне доходов самих наемных работников.
