З цікавих спостережень Ярослава Клочника, ментора та CTO команди студентів програми «Інтернет речей» у Львівській політехніці, які навчаються на кафедрі комп’ютеризованих систем автоматики Інституту комп’ютерних технологій, автоматики та метрології і разом з викладачами розробляють Im2be – застосунок, за допомогою якого люди можуть покращувати та зміцнювати стосунки в сім’ї:
– Сьогодні розвиток AI-технологій відбувається значно швидше, ніж адаптація соціуму до їх сприйняття. І це регулярно призводить до того, що ми в Im2be, між собою, називаємо «rollback функціоналу», або «відкат до кращих часів».
Поєднання AI та психології – сама по собі тема складна і дуже тонка. Бувало таке, що команді здавалося: ось він, реально класний функціонал. З одного боку, за коректного використання, він може суттєво допомагати у розв’язанні складних сімейних ситуацій. З іншого, потенційно, може нести ризик і непередбачувані наслідки.
Одна з таких «фіч», яку нам довелося частково вимкнути «до кращих часів» – це Im2be Sentiment Analysis.
По суті, професійні психологи, дотичні до Im2be проєкту, дотрейнили/довчили AI-модель аналізувати поведінку користувачів у системі: стиль спілкування в сімейних чатах, швидкість і якість виконання завдань членами родини, дані з mood diary, патерни активності тощо. На виході це давало можливість: формувати своєрідні Alert для батьків, якщо в дитини з’являлися маркери депресивних станів; нагадувати партнерам, що вони давно не проводили час разом; допомогти адаптувати сімейну розмову до поведінки конкретного члена родини.
Звучить круто, правда?
Але коли ми почали системно проганяти negative cases і накладати їх на вимоги європейського AI Act, стало зрозуміло, що, можливо, ще трошки зарано. Технічно – усе працювало. А от із погляду етики, відповідальності й готовності суспільства – поки що зарано. У підсумку більшу частину цього функціоналу довелося від’єднати, свідомо, відклавши його до моменту, коли соціум буде більш адаптований до таких інструментів.
Водночас наш FlowCoach – AI-психолог і своєрідний коуч для сімей, який ми, разом із сімейними психологами, постійно адаптуємо до реальних життєвих сценаріїв, – наразі показує себе доволі добре. Обережніше, простіше, з більшим фокусом на підтримку, а не на «діагностику».
Головне правило, якого притримується команда Im2be, – це не про «ще більше AI», це про баланс між технологіями, психологією та відповідальністю.
