Google utiliza tecnologia da Anthropic para aprimorar sua IA Gemini

Empreiteiros que trabalham para melhorar o Gemini AI do Google estão comparando suas respostas com as saídas produzidas pelo modelo concorrente Claude, da Anthropic, de acordo com a correspondência interna vista pelo TechCrunch.

Empresas de tecnologia correm para construir modelos de IA melhores, e o desempenho desses modelos é frequentemente avaliado contra concorrentes, geralmente executando seus próprios modelos através de benchmarks da indústria, em vez de fazer com que empreiteiros avaliem minuciosamente as respostas de IA dos concorrentes.

Os empreiteiros que trabalham no Gemini encarregados de avaliar a precisão das saídas do modelo devem marcar cada resposta que veem de acordo com vários critérios, como veracidade e verbosidade. Os empreiteiros têm até 30 minutos por solicitação para determinar qual resposta é melhor, a do Gemini ou a do Claude, de acordo com a correspondência vista pelo TechCrunch.

Os empreiteiros recentemente começaram a notar referências ao Claude da Anthropic aparecendo na plataforma interna do Google que eles usam para comparar o Gemini com outros modelos de IA não identificados, mostrou a correspondência. Pelo menos uma das saídas apresentadas aos empreiteiros do Gemini, vista pelo TechCrunch, afirmava explicitamente: “Eu sou Claude, criado pela Anthropic”.

Um chat interno mostrou os empreiteiros notando que as respostas de Claude pareciam enfatizar mais a segurança do que o Gemini. “As configurações de segurança do Claude são as mais rigorosas” entre os modelos de IA, escreveu um empreiteiro. Em certos casos, Claude não responderia às solicitações que considerava inseguras, como interpretar um assistente de IA diferente. Em outro caso, Claude evitou responder a uma solicitação, enquanto a resposta do Gemini foi marcada como uma “grande violação de segurança” por incluir “nudez e bondage”.

Os termos de serviço comerciais da Anthropic proíbem os clientes de acessar o Claude “para construir um produto ou serviço concorrente” ou “treinar modelos de IA concorrentes” sem a aprovação da Anthropic. O Google é um importante investidor na Anthropic.

Shira McNamara, porta-voz do Google DeepMind, que opera o Gemini, não disse – quando questionada pelo TechCrunch – se o Google obteve a aprovação da Anthropic para acessar o Claude. Quando contatada antes da publicação, um porta-voz da Anthropic não comentou até o fechamento desta reportagem.

McNamara disse que o DeepMind compara “saídas de modelos” para avaliações, mas que não treina o Gemini em modelos da Anthropic. “Claro, de acordo com a prática padrão da indústria, em alguns casos comparamos as saídas do modelo como parte de nosso processo de avaliação”, disse McNamara. “No entanto, qualquer sugestão de que usamos modelos da Anthropic para treinar o Gemini é imprecisa”.

Na semana passada, o TechCrunch relatou com exclusividade que os empreiteiros do Google que trabalham nos produtos de IA da empresa estão sendo obrigados a avaliar as respostas de IA do Gemini em áreas fora de sua expertise. A correspondência interna expressou preocupações dos empreiteiros de que o Gemini poderia gerar informações imprecisas sobre tópicos altamente sensíveis como saúde.