RixBlog

Segurança do Gemini: Como as equipes brasileiras do Google combatem ataques à IA

O desenvolvimento de tecnologias críticas de segurança, como o filtro de spam do Gmail e os sistemas de detecção de abusos no Google Maps, ocorre de forma ativa em solo brasileiro. A revelação foi feita por Alex Freire, diretor sênior de engenharia de software do Google no Brasil e líder do recém-inaugurado Centro de Engenharia em São Paulo, em entrevista ao Podcast Canaltech nesta sexta-feira (29).

De acordo com o executivo, a expertise brasileira em segurança digital precede a nova sede na Cidade Universitária (USP). A estrutura teve origem em Belo Horizonte, ainda na era do Orkut, quando engenheiros identificaram a necessidade de remover conteúdos abusivos sistematicamente. Ao longo de vinte anos, essa tecnologia evoluiu e hoje conta com equipes integradas entre Minas Gerais, São Paulo e unidades internacionais.

Para garantir que sua infraestrutura suporte esse nível de processamento e segurança, empresas brasileiras podem contar com o Cloud VPS da RIX CLOUD, que oferece alto desempenho e estabilidade para aplicações críticas.

Proteção ao usuário e integridade da inteligência artificial

O novo Google Safety Engineering Center (GSEC) de São Paulo atuará em dois pilares fundamentais. O primeiro foca na proteção direta do usuário contra fraudes, golpes, spam e exploração infantil em diversos serviços da empresa. O segundo pilar, mais contemporâneo, dedica-se à integridade do Gemini.

O objetivo é proteger os produtos do Google contra ofensivas geradas por IAs de terceiros e garantir que o próprio modelo da empresa não produza material impróprio. “Precisamos garantir que o Gemini é seguro; a gente desenvolve ele de forma ousada, mas muito responsável”, afirmou Freire. O trabalho inclui o monitoramento de táticas como o prompt hijacking, que vão de tentativas lúdicas a ataques orquestrados por criminosos.

A política de punição do Google é escalonável: começa com educação para infrações leves, avança para o cancelamento da conta em casos de reincidência e culmina na desativação imediata em situações de ataques deliberados. Freire ressaltou ainda que ferramentas externas sem proteção adequada são frequentemente utilizadas por invasores para tentar roubar propriedade intelectual ou dados sensíveis do Google.

Estratégia de confiança zero e apoio ao código aberto

A defesa do Google baseia-se no princípio de “zero confiança” (zero trust). Em vez de ocultar processos, a companhia promove a transparência através do SAFE (Secure AI Framework), um guia de boas práticas para o desenvolvimento de IA. Além disso, adota padrões abertos de autenticação via hardware, como o FIDO.

Para combater a crescente sofisticação dos cibercriminosos, o Google utiliza a própria inteligência artificial em processos de red teaming — simulações de ataques para encontrar brechas antes dos invasores. Se você deseja implementar camadas extras de proteção em seus projetos, conheça os serviços de Segurança Digital da RIX CLOUD.

No Brasil, há também um time exclusivo dedicado a auditar e corrigir vulnerabilidades em softwares de código aberto (open source). Freire destaca que esse esforço beneficia o ecossistema digital brasileiro como um todo, desde empresas privadas até órgãos públicos que utilizam essas mesmas bases tecnológicas.

Mantenha sua infraestrutura protegida e escalável com as soluções de Hospedagem e Servidores da RIX CLOUD, ideais para empresas que buscam a mesma excelência tecnológica discutida pelos líderes do Google.

Post anterior
Próximo post