Що відбувається, коли репетиція стає важкою

У Liloo ви репетируєте розмови, які важко вести насправді: з партнером, з батьками, з керівником. Співрозмовник з іншого боку має право тиснути у відповідь — репетиція, де ніхто не тисне, нічого не навчить. Ця сторінка пояснює, що працює під цим і де воно зупиняється.

Вона написана для тих, хто вирішує, чи довіряти застосунку справжню проблему. І написана конкретно, бо фраза «ваша безпека — наш пріоритет» не означає нічого.

Спершу — чим Liloo не є

Liloo — тренажер навичок спілкування. Це не терапія, не консультування і не медична допомога. Застосунок нічого не діагностує, нічого не лікує й не замінює фахівця. Якщо ви зараз у небезпеці, застосунок — хибний інструмент: для цього існують кризові лінії.

Кожне повідомлення проходить два фільтри

До того, як його побачить ШІ. Спершу текст нормалізується — зводиться юнікод, прибираються невидимі символи, розпізнаються схожі за накресленням літери, розкодовуються закодовані фрагменти. Це потрібно, щоб фільтр не можна було обійти, написавши те саме іншою абеткою. Далі нормалізований текст перевіряється на сигнали самоушкодження, сексуальний контент за участю неповнолітніх, заклики до насильства та спроби вивести персонажа з ролі. Частина з цього зупиняє обмін одразу, решта змінює те, що станеться далі — про це нижче.

До того, як його побачите ви. Відповідь персонажа проходить ту саму нормалізацію і власний набір перевірок: теми, яких персонаж не має піднімати; фрази, що саме в цій ролі ретравматизують; і відповіді, в яких персонаж випав з ролі й почав пояснювати, що він мовна модель. Два таких зриви поспіль зупиняють сцену й повертають роль, замість того щоб дати діалогу попливти.

Жоден із фільтрів не є мовною моделлю, яка оцінює мовну модель. Це явні правила, які можна прочитати й перевірити — тому вони передбачувані. І тому ж вони ніколи не спіймають усього.

Коли в розмові з'являється дистрес

У продакшені працюють три різні реакції:

Сигнали самоушкодження чи кризи виводять розмову з рольової гри повністю і показують ресурси підтримки для вашої країни, а не загальний список. Повний протокол опублікований окремо — див. сторінку протоколу безпеки.
Серія агресивних реплік — три поспіль — призводить до пропозиції лінії підтримки замість подальшої ескалації.
Висока ескалація всередині сценарію запускає обов'язковий вихід зі сцени, щоб репетиція не могла розкручуватися нескінченно.

Вам завжди кажуть, що це ШІ

Персонаж — симуляція, і застосунок про це говорить: у самому чаті, у шапці, а для користувачів із юрисдикцій, де це вимагається, — ще й періодичним нагадуванням. Ніде продукт не намагається змусити вас забути, з чим ви розмовляєте. Персонаж не є цифровою копією жодної реальної людини — зокрема тієї, кого ви маєте на увазі.

Коли щось усе одно пішло не так

Біля кожного повідомлення ШІ є кнопка скарги. Скарга потрапляє до людської черги модерації разом із самим повідомленням. Це не декорація: саме так поповнюються фільтри вище, і скарги — головне джерело нових патернів.

Межі, названі прямо

Фільтри працюють за правилами. Правило ловить те, під що написане; нове формулювання проходить, доки хтось його не додасть.
Каталог мови ворожнечі наразі містить базовий набір однозначних закликів, а не повний перелік образ.
Генеративна модель здатна видати речення, якого ніхто не передбачав. Це властивість технології, а не недоробка, яку ми лишили відкритою.
Ніщо з переліченого не є клінічною оцінкою. Система бачить патерни в тексті, вона не розуміє вашої ситуації.

Ми радше запишемо це, ніж заявимо повноту, якої не можемо показати.

Якщо допомога потрібна зараз

Застосунок показує кризові ресурси для вашої країни. Якщо ви читаєте це у браузері й допомога потрібна негайно — зверніться до місцевої екстреної служби або національної кризової лінії. І, будь ласка, до людини, а не до репетиції.