Компанія OpenAI оголосила про запуск спеціальної моделі, здатної прогнозувати вік власників акаунтів у ChatGPT. Ця ініціатива спрямована на посилення безпеки підлітків, які користуються споживчими тарифами популярного сервісу.
Новітній алгоритм не просто запитує дату народження, а здійснює комплексний аналіз цифрового сліду. Для ідентифікації неповнолітніх система звертає увагу на такі ключові фактори:
- тривалість існування конкретного облікового запису;
- типові години пікової активності користувача;
- вказаний під час реєстрації вік;
- специфічні моделі поведінки у взаємодії з чат-ботом.
Якщо штучний інтелект запідозрить, що користувачеві ще не виповнилося 18 років, система автоматично активує посилені захисні механізми. Це передбачає сувору фільтрацію контенту – зокрема повне блокування тем, що стосуються самопошкодження або іншої потенційно небезпечної інформації.
У компанії OpenAI пояснили принцип роботи нововведення:
“Алгоритм аналізує сукупність даних, пов’язаних із профілем користувача і його поведінкою, аби виявляти облікові записи, якими можуть користуватися неповнолітні.”
Розробники визнають можливість похибки, тому для тих, кого система “омолодила” помилково, передбачена процедура підтвердження особи через захищений сервіс ідентифікації Persona. Вже найближчим часом технологію почнуть поетапно впроваджувати на території Європейського Союзу з урахуванням місцевих регуляторних вимог.
Цей крок став логічним продовженням стратегії безпеки компанії. Раніше OpenAI вже презентувала інструменти батьківського контролю та залучила консультативну раду з восьми незалежних експертів, які вивчають вплив штучного інтелекту на ментальне здоров’я молоді.
Залишити коментар