Три бесплатных инструмента для обеспечения безопасности пользователей

Команда Android разместила в блоге три бесплатных инструмента, которые помогут разработчикам улучшить пользовательский опыт у своих приложений. Вот они:

Perspective

Продукт использует машинное обучение для определения токсичных комментариев в сети, в которые входят, например, оскорбления, ненормативная лексика или угрозы, что упрощает ведение более здоровых разговоров в приложениях. Perspective можно использовать для обратной связи с комментаторами, помощи модераторам и для поддержания разговора в сети.

В Google указывают, что многие онлайн-издатели и разработчики, такие как The New York Times, EI Pais, FACEIT и Coral by VoxMedia, начали применять этот инструмент для содействия «конструктивному онлайн-диалогу». 

Content Safety 

Основан на искусственном интеллекте (ИИ) и программном доступе. Позволяет разработчикам лучше расставлять приоритеты для проверки материалов о нарушениях и повышения безопасности детей. 

Чем выше приоритет, присвоенный классификатором, тем выше вероятность, что контент содержит оскорбительный материал. API может использоваться параллельно с другими решениями, такими как, например, инструмент для хеширования видео CSAI Match YouTube или PhotoDNA от Microsoft.

Safe Browsing 

Защищает устройства, показывая пользователям предупреждения, когда они пытаются перейти на потенциально опасные сайты или загрузить вредоносные файлы. 

Инструмент также уведомляет веб-мастеров о взломе их веб-сайтов. Защита Safe Browsing работает во всех продуктах Google и обеспечивает более безопасную работу в интернете.