Da Redação
Uma startup neozelandesa contratada por OpenAI, Anthropic e Google trabalha em iniciativa inovadora. O objetivo é identificar e auxiliar usuários com tendências extremistas violentas em plataformas de inteligência artificial.
Ferramenta híbrida em desenvolvimento
A ThroughLine, fundada pelo ex-assistente social Elliot Taylor, desenvolve solução combinando chatbots especializados com encaminhamentos humanos. Usuários identificados com riscos de radicalização serão direcionados para apoio presencial em suas regiões.
A empresa negocia com The Christchurch Call, organização nascida após atentado terrorista de 2019. O grupo fornecerá orientações enquanto a startup completa o desenvolvimento da ferramenta de intervenção.
Pressões de segurança crescentes
A iniciativa responde a preocupações globais sobre responsabilidade das plataformas de IA. Em fevereiro, o governo canadense ameaçou intervir após descobrir que um massacre escolar envolveu usuário banido sem notificação às autoridades.
Diversos processos judiciais acusam empresas de inteligência artificial de negligência ou incentivo à violência através de suas plataformas.
Abordagem cuidadosa versus regulação severa
Taylor argumenta que bloqueios severos podem agravar riscos ao deslocar simpatizantes para plataformas menos regulamentadas como Telegram. Estudos mostram que moderação agressiva por pressão policial frequentemente gera esse efeito.
A solução proposta mantém o usuário em contato com apoio, evitando o isolamento total. Questões sobre alertas às autoridades ainda estão sendo definidas.
Infraestrutura global estabelecida
A ThroughLine já opera rede monitorada com 1.600 linhas de apoio em 180 países. A plataforma encaminha usuários em crise para serviços locais especializados operados por profissionais qualificados.
Consultores de contraterrorismo indicam que o produto será disponibilizado para moderadores de fóruns, pais e responsáveis. O sucesso dependerá da qualidade dos mecanismos de acompanhamento implementados.
