Нейросети становятся привычным инструментом для детей, поэтому важно обсуждать в семье правила безопасного использования таких сервисов. В преддверии нового учебного года эксперты «Лаборатории Касперского» рассказали об основных рисках, связанных с ИИ, и дали несколько рекомендаций, как обезопасить своего ребёнка.
Чат-бот — не лучший друг. Ребёнок может воспринимать беседу с чат-ботом как приватный разговор и считать ИИ надёжным собеседником, которому можно рассказать о себе, своей семье, школе или личных переживаниях. Однако запросы и диалоги могут сохраняться сервисом, а в зависимости от его настроек и политики конфиденциальности — использоваться для улучшения моделей. Именно поэтому необходимо объяснять детям, что не стоит делиться с умными чат-ботами своим именем, домашним адресом, номером телефона, документами и другой личной информацией. Такие же правила действуют и в отношении других людей: нельзя загружать чужие фотографии, сообщения или документы без разрешения владельца.
ИИ в учёбе: помощник, а не исполнитель. С началом учебного года дети могут начать активно использовать нейросети в учёбе: просить объяснить сложную тему, сгенерировать идеи для эссе, проверить текст, решить домашнюю задачу или подготовить презентацию. Однако, когда ребёнок с помощью ИИ может за считаные секунды получить готовое сочинение или решение задачи, возникает соблазн выдать сгенерированный результат за свою работу, не вникая в суть полученного ответа. Родителям стоит вместе с детьми договориться о правилах: нейросеть может помочь объяснить тему, предложить план, привести примеры или задать тренировочные вопросы — но не выполнять всё задание.
«Галлюцинации ИИ». Одна из самых распространённых ошибок — относиться к сгенерированному ответу как к результату выдачи поисковой системы или мнению эксперта. На самом деле языковая модель формирует ответ на основе закономерностей, выявленных в данных, на которых она обучалась, и предоставленного ей контекста. При этом убедительно звучащий ответ не обязательно будет достоверным: нейросеть может перепутать факты, выдумать источник, сослаться на несуществующее исследование или уверенно описать событие, которого никогда не было. Такую подмену информации часто называют «галлюцинацией ИИ». Детям стоит запомнить правило: чем важнее вопрос, тем тщательнее нужно проверять ответ.
«ИИ может стать ценным инструментом для обучения ребёнка, если использовать его для изучения темы, проверки понимания учебного материала или доработки черновика сочинения — но не для того, чтобы заменить собственную работу. Главное — научиться не принимать каждый сгенерированный ответ ИИ за чистую монету. На первый взгляд он может звучать правдиво, но при этом содержать выдуманные факты, ложные ссылки или ошибочные рассуждения, — объясняет Андрей Сиденко, руководитель направления по детской онлайн-безопасности в «Лаборатории Касперского». — Родители могут помочь, поощряя детей сверять важную информацию с учебниками и надёжными источниками, объяснять ответ своими словами и обращаться за помощью, если что-то кажется неясным. Такие привычки помогут детям извлекать пользу из ИИ и одновременно развивать навыки критического мышления, которые пригодятся им не только в течение учебного года, но и на протяжении всей жизни».
«Обучение детей правилам грамотного использования ИИ — ключевой навык для жизни в безопасной цифровой среде, — отметил Мушвиг Мамедов, официальный представитель «Лаборатории Касперского» в Азербайджане. — Например, в начале учебного года родители могут потренироваться вместе с детьми: разобрать ответ нейросети на домашнее задание, проверить источники, обсудить, какие части текста полезны, где есть неточности и что стоит доработать. Дополнительную защиту от фишинга, скама и других киберугроз обеспечат специализированные защитные решения».
Помимо правил безопасного и ответственного использования ИИ, важно соблюдать и базовые правила цифровой безопасности. Чтобы защитить себя и детей в сети, эксперты «Лаборатории Касперского» рекомендуют:
• включать двухфакторную аутентификацию везде, где это возможно;
• для защиты аккаунтов от взлома придумывать сложные пароли, которые содержат минимум 12 знаков: большие и маленькие буквы, цифры, спецсимволы;
• скачивать приложения только из официальных источников, обновлять их — и ни в коем случае не скачивать файлы от незнакомцев в мессенджерах, особенно с расширением .apk;
• установить на все используемые устройства надёжные защитные решения, которые помогут обнаружить фишинговые страницы, вредоносные файлы и другие онлайн-угрозы;
• вместе с ребёнком проверить настройки приватности и оценить, какой объём личной информации виден посторонним, а также научить скрывать эти данные.