ИИ шагает по планете и входит в нашу повседневную жизнь. Но иногда преподносит сюрпризы. Некоторые из них - неприятные.
Моя электрическая газонокосилка начала выбивать в доме пробки.
Я решил с ней разобраться.
Агрегат состоит, грубо говоря, из несколько мудрёного включателя (с дополнительной кнопкой) и электромотора. Разберёмся, кто из них коротит. Так думал я. Вскрыв агрегат, я увидел ещё и конденсатор. Похоже, виновник был он.
Чтобы восстановить в голове школьные познания по физике конденсатора (ментальную модель) стал я расспрашивать про конденсатор ИИ (Copilot). Я задал ему две серии вопросов. Ответы ИИ в обоих случаях были логичны и последовательны, но … противоречили друг-другу.
Пришлось порыться в Википедии и физическом словаре. Оказалось, что ИИ был в обоих случаях прав. Но … конденсатор ведёт себя очень по-разному под постоянным током и под переменным током.
Любой электрик первым делом спросил бы меня - а какой у тебя ток, постоянный или переменный? Я в своих вопросах напрямую тип тока не упоминал. А ИИ, не спрося меня об этом, «садился» на ту или иную «ветку» теории.
Для меня это пример, когда использование рекомендаций ИИ может оказаться очень опасным.
Думаю, таких областей, где поведение объектов очень различается в зависимости от контекста, очень много. И, насколько я понимаю, «напрямую» в GPT-технологии эта проблема не решается. А догадываться о контексте на уровне «обвязок» тоже непонятно как.
А что думают по этому поводу специалисты по ИИ?
P.S. И, если вас это волнует - конденсатор я поменял и газонокосилка заработала. А виновник - на снимке.
Автор: visirok
