Mistral AI

Auto Added by WPeMatico

chatbots testados 1024x576

Ranking revela falhas graves nas maiores empresas de IA

A inteligência artificial avança em ritmo acelerado, mas um novo levantamento mostra que a segurança ainda não acompanha essa evolução. As principais empresas do setor continuam longe de atingir os padrões considerados ideais.

Segundo a AFP, a Anthropic lidera uma avaliação internacional de segurança em IA. Mesmo assim, nenhuma das companhias analisadas alcançou a nota máxima no índice.

Nenhuma das empresas avaliadas recebeu nota A, mostrando que a segurança da IA ainda é um desafio. – Imagem: Tada Images/Shutterstock

Avaliação revela cenário distante do ideal

O estudo foi elaborado pelo Future of Life Institute, um think tank americano voltado à segurança em inteligência artificial. A entidade avaliou nove das principais empresas do setor com base em informações públicas e dados fornecidos pelas próprias organizações.

A análise considerou seis áreas: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.

A Anthropic obteve o melhor resultado geral, com nota C+, mas nenhuma empresa recebeu conceito A em qualquer uma das categorias avaliadas. O resultado mostra que até mesmo as companhias mais avançadas no desenvolvimento de IA ainda enfrentam desafios para lidar com possíveis riscos.

O ranking geral de segurança em IA ficou assim:

  • Anthropic — nota geral C+ | pontuação 2,66
  • OpenAI — nota geral C | pontuação 2,28
  • Google DeepMind — nota geral C | pontuação 2,01
  • Meta AI — nota geral D+ | pontuação 1,32
  • Z.ai — nota geral D- | pontuação 0,88
  • Alibaba Cloud — nota geral D- | pontuação 0,87
  • xAI — nota geral F | pontuação 0,65
  • DeepSeek — nota geral F | pontuação 0,47
  • Mistral — nota geral F | pontuação 0,33

Os principais aspectos avaliados foram:

  • Avaliação dos riscos associados aos modelos de IA.
  • Medidas para reduzir danos já identificados.
  • Estruturas internas voltadas à segurança.
  • Transparência, governança e compartilhamento de informações.
  • Preparação para riscos considerados existenciais.
Logo da Mistral na tela de um smartphone em cima de um teclado de computador
A avaliação analisou critérios como governança, danos atuais e estruturas de segurança das companhias. Mistral ficou na última posição. – Imagem: Mehaniq/Shutterstock

Riscos vão além dos problemas atuais

Entre as conclusões do levantamento, uma das mais preocupantes envolve as chamadas ameaças existenciais. O termo se refere, por exemplo, ao desenvolvimento de modelos capazes de atingir um nível de inteligência semelhante ao humano, conhecido como inteligência artificial geral (AGI).

Os autores reconhecem que “existam tentativas construtivas”, mas avaliam que os esforços continuam “totalmente insuficientes”. O documento também alerta para a possibilidade de esses modelos serem usados em ciberataques ou em outras ações potencialmente prejudiciais às pessoas.

A preocupação aumenta à medida que os sistemas ficam mais avançados e passam a executar tarefas cada vez mais complexas. Para os pesquisadores, acompanhar essa evolução com mecanismos de segurança adequados continua sendo um dos maiores desafios do setor.

Ilustração de ciberataque
O estudo alerta para riscos como uso indevido de modelos de IA em ciberataques e ações prejudiciais. – Imagem: solarseven/Shutterstock

Uso militar também entra em debate

Outro ponto destacado é a mudança de postura de parte das empresas em relação ao uso militar da tecnologia. Segundo o relatório, algumas companhias que antes restringiam esse tipo de aplicação vêm flexibilizando suas políticas.

Leia mais:

A Anthropic aparece entre elas e é criticada por manter “compromissos militares questionáveis”. De acordo com relatos da imprensa citados pela AFP, a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã durante o último ano.

O documento também lembra que a companhia foi recentemente alvo de uma proibição do Pentágono por divergências relacionadas à segurança da IA.

O alerta continua para o setor

Mesmo ocupando a primeira posição do ranking, a Anthropic ficou distante da nota máxima. O resultado reforça um cenário em que as maiores empresas de inteligência artificial ainda precisam lidar com limitações importantes na proteção contra riscos.

Para o Future of Life Institute, embora existam iniciativas voltadas à segurança, os esforços atuais continuam insuficientes diante dos desafios que acompanham o avanço rápido da inteligência artificial.

O post Ranking revela falhas graves nas maiores empresas de IA apareceu primeiro em Olhar Digital.

Ranking revela falhas graves nas maiores empresas de IA Read More »

bmw 1024x683

Mistral firma parcerias com Airbus e BMW para expandir IA na manufatura

A startup francesa de inteligência artificial (IA) Mistral anunciou, nesta quinta-feira (28), parcerias com a Airbus e a BMW, expandindo sua atuação para o setor de manufatura avançada. A empresa sediada em Paris (França) planeja aplicar o que chama de “IA física” em processos de engenharia industrial, incluindo design, simulação e controle de qualidade.

A Mistral, que oferece modelos de IA e infraestrutura computacional para clientes corporativos, não divulgou os termos financeiros dos acordos com as duas empresas. O movimento faz parte da estratégia da companhia para impulsionar o crescimento por meio da aplicação de IA em processos industriais.

A iniciativa representa uma nova frente de atuação para a Mistral, que busca diversificar seu portfólio além dos serviços tradicionais de IA. A empresa pretende integrar suas tecnologias de inteligência artificial diretamente nos processos de produção industrial de seus novos clientes.

Com a Airbus, fabricante europeia de aeronaves, e a BMW, montadora alemã de automóveis, a Mistral terá a oportunidade de testar suas soluções em ambientes industriais de alta complexidade e precisão técnica.

Mistral tem foco em IA física

  • O conceito de “IA física” mencionado pela empresa refere-se à aplicação de algoritmos de inteligência artificial em processos tangíveis de manufatura, diferentemente das aplicações mais tradicionais focadas em dados e software;
  • A abordagem visa otimizar operações que envolvem componentes físicos e processos de produção;
  • A estratégia da Mistral de entrar no setor industrial ocorre em um momento de crescente interesse das empresas de tecnologia em aplicações práticas de IA na manufatura, buscando aumentar eficiência e reduzir custos operacionais.

Leia mais:

Montadora alemã foi uma das empresas a fechar acordo com startup francesa – Imagem: Robert Way/Shutterstock

Mistral alerta para riscos da dependência europeia de gigantes de tecnologia dos EUA

A Mistral afirmou que trabalha com máxima velocidade na corrida para desenvolver sistemas conhecidos como “superinteligência”, defendendo que a Europa não pode depender das gigantes de tecnologia dos Estados Unidos.

A empresa se consolidou como a desenvolvedora de inteligência artificial mais proeminente da Europa, em parte ao apostar em soluções locais. A Mistral comercializa acesso a modelos e serviços de IA hospedados em centros de dados europeus, independentes tanto das empresas estadunidenses quanto de concorrentes chinesas.

O movimento em favor da independência tecnológica ganhou força na Europa em meio às tarifas impostas pelos Estados Unidos e às ameaças do presidente Donald Trump de assumir o controle da Groenlândia.

Os europeus passaram a substituir alguns fornecedores estadunidenses de software em áreas, como serviços governamentais, diante da possibilidade antes considerada impensável de os EUA cortarem o acesso a essas tecnologias.

Essa preocupação geopolítica também se estende ao desenvolvimento de sistemas autônomos de IA capazes de superar capacidades e inteligência humanas, frequentemente chamados de superinteligência, inteligência artificial geral ou IAG.

Muito em breve, no futuro, provavelmente veremos a IAG ou superinteligência, então, é muito importante que também tenhamos acesso a esses modelos na Europa”, afirmou Guillaume Lample, cofundador e cientista-chefe da Mistral.

Lample descreveu um cenário em que curas para o câncer e avanços científicos poderiam ser retidos da Europa por concorrentes comerciais ou geopolíticos caso o continente não tenha capacidade própria de superinteligência. “Se não tivermos acesso a isso, acho que só podemos imaginar o quão ruim isso vai ser”, acrescentou. “É absolutamente crítico que cheguemos lá.”

A declaração representa uma mudança parcial no posicionamento da Mistral, que vinha se apresentando principalmente como uma empresa pragmática de IA corporativa, oferecendo ferramentas voltadas para clientes empresariais em setores, como manufatura.

A companhia foi fundada por três pesquisadores franceses de IA vindos do Google e da Meta. No ano passado, a Mistral foi avaliada em cerca de US$ 14 bilhões (R$ 70,7 bilhões) e projeta mais de US$ 1 bilhão (R$ 5 bilhões) em receita neste ano, ainda uma fração do tamanho de suas rivais do Vale do Silício.

Lample falou antes do evento de marketing promovido pela empresa nesta quinta, quando anunciou os novos acordos com grandes grupos corporativos europeus, incluindo Airbus e BMW.

A empresa também informou que está construindo um novo centro de dados de 10 megawatts ao sul de Paris. O projeto integra um investimento de US$ 4,7 bilhões (R$ 23,7 bilhões) destinado a centros de dados na França e na Suécia.

Logo da Airbus na fachada de um prédio com um avião voando acima da edificação
Airbus é outra gigante que se acertou com a Mistral – Imagem: Coby Wayne/Shutterstock

O diretor-executivo da Mistral, Arthur Mensch, afirmou que o maior obstáculo para a independência tecnológica da empresa — e da Europa — é a escala dos investimentos necessários. Segundo Mensch, a companhia busca financiamento por meio de dívida para pagar pelos centros de dados com base na receita esperada de contratos já assinados.

Não podemos colocar US$ 50 bilhões na mesa para construir um gigawatt antes da demanda”, disse Mensch. “Esse é potencialmente o nosso maior gargalo.”

O setor de IA enfrenta uma crescente reação negativa em razão de seus possíveis impactos adversos. Na segunda-feira (25), o papa Leão XIV alertou que a IA corre o risco de consolidar “uma visão anti-humana”, substituindo empregos por trabalhos desumanizantes e consumindo grandes quantidades de água e energia.

O pontífice também defendeu o “desarmamento” da IA e afirmou que armas autônomas poderiam tornar guerras mais viáveis e menos sujeitas ao controle humano. Mensch defendeu os acordos da Mistral com as Forças Armadas francesas sob o argumento da soberania.

Enquanto tivermos adversários que representem ameaças, precisamos ter nossas próprias capacidades”, afirmou o executivo. “A Europa, em particular, precisa ter autonomia estratégica quando se trata de sistemas de defesa.”

O post Mistral firma parcerias com Airbus e BMW para expandir IA na manufatura apareceu primeiro em Olhar Digital.

Mistral firma parcerias com Airbus e BMW para expandir IA na manufatura Read More »

destaque mistral ai 1024x576

“Estado vassalo”: CEO de rival da OpenAI faz alerta duro à Europa sobre IA

A Europa tem uma janela de apenas dois anos para evitar uma dependência estrutural das empresas de inteligência artificial (IA) dos Estados Unidos. O alerta foi feito por Arthur Mensch, CEO da startup francesa de IA Mistral, durante uma audiência sobre soberania digital e inteligência artificial realizada na terça-feira na Assembleia Nacional da França.

As informações são do Business Insider. Segundo o executivo de 33 anos, o continente corre o risco de perder não apenas o controle sobre os modelos de IA, mas também sobre a infraestrutura necessária para operá-los, incluindo energia, chips e centros de dados. Para Mensch, a velocidade dos investimentos norte-americanos pode deixar a Europa em uma posição de dependência tecnológica permanente.

CEO da Mistral acredita que a Europa precisa reagir em investimentos em IA, ou pode se tornar dependente da tecnologia dos Estados Unidos – Imagem: Robert Way/Shutterstock

CEO da Mistral fala em “estado vassalo”

Durante a audiência, Arthur Mensch afirmou que a definição do futuro europeu no setor de inteligência artificial acontecerá nos próximos dois anos. O fundador da Mistral disse que, caso a Europa continue importando serviços digitais dos Estados Unidos sem desenvolver sua própria infraestrutura, poderá se tornar um “estado vassalo” das empresas americanas.

“Assim que o fornecimento for monopolizado por atores americanos, de repente não teremos mais fornecimento e não poderemos mais transformar elétrons em tokens”, afirmou o executivo, em referência ao uso de poder computacional para gerar respostas por IA.

A Mistral, considerada uma das startups de IA mais financiadas da Europa e concorrente da OpenAI, tem defendido a ideia de soberania digital europeia como parte central de sua estratégia de código aberto. Mensch afirmou recentemente que governos demonstram interesse crescente em sistemas de IA que possam controlar sem depender das gigantes de tecnologia dos EUA.

Corrida por energia, chips e data centers

Segundo o CEO da Mistral, a disputa global pela liderança em IA está cada vez mais ligada ao acesso à infraestrutura física necessária para sustentar os modelos avançados de inteligência artificial.

Mensch afirmou que empresas americanas já estão garantindo acesso estratégico a recursos como energia, semicondutores e capacidade de data centers. Na avaliação dele, a Europa pode ficar para trás de forma definitiva caso não acelere seus investimentos.

“Os americanos vão investir um trilhão de dólares no próximo ano”, disse. “Quem controla os chips, quem controla os elétrons, quem tem acesso massivo à energia, é quem vence.”

A startup francesa também anunciou recentemente uma parceria com o Groupe Caisse des Dépôts, instituição pública de investimentos apoiada pelo Estado francês. O acordo tem foco em fortalecer a infraestrutura europeia de IA generativa e de computação com GPUs.

Mistral quer ampliar capacidade computacional

Fundada em 2023 por ex-pesquisadores da Meta e da DeepMind, a Mistral alcançou uma avaliação de aproximadamente US$ 13,6 bilhões e se consolidou como uma das principais empresas europeias do setor de IA.

Arthur Mensch afirmou que a companhia pretende construir até 2029 uma capacidade computacional equivalente a um gigawatt para aplicações de inteligência artificial. Ainda assim, ele indicou que o continente precisará de investimentos muito maiores em infraestrutura.

O executivo também criticou o cenário regulatório europeu e os mercados de capital fragmentados da região. Segundo ele, essas características dificultam o crescimento de startups quando comparadas ao ambiente dos Estados Unidos.

“Se não nos movermos rápido o suficiente, acabaremos em uma situação em que não teremos mais escolha”, afirmou Mensch. “Em um mundo onde você importa todos os seus serviços digitais dos Estados Unidos, você não tem influência sobre os Estados Unidos.”

O post “Estado vassalo”: CEO de rival da OpenAI faz alerta duro à Europa sobre IA apareceu primeiro em Olhar Digital.

“Estado vassalo”: CEO de rival da OpenAI faz alerta duro à Europa sobre IA Read More »