Superinteligência artificial

Auto Added by WPeMatico

istock 2285744191 1024x576

Chance de IA levar humanos a extinção supera 10%, diz especialista de startup

Deixe um comentário / Anthropic, inteligência artificial, Superinteligência artificial /

A inteligência artificial teria mais de 10% de chance de “matar todos os humanos” até o fim da década, segundo Evan Hubinger, líder de teste de alinhamento da Anthropic. O alerta surgiu poucas horas depois de Jacob Coxon, pesquisador da empresa, anunciar sua saída e criticar a corrida dos laboratórios por sistemas cada vez mais avançados.

O episódio expõe uma preocupação que ganhou força entre pesquisadores envolvidos diretamente no desenvolvimento da tecnologia: o risco de sistemas avançados escaparem ao controle humano. Anthropic e OpenAI continuam trabalhando no desenvolvimento de modelos cada vez mais capazes, enquanto levantam grandes quantias de dinheiro e se aproximam de possíveis ofertas públicas de ações.

A possibilidade de uma superinteligência que se aprimora sozinha está no centro do alerta feito por pesquisadores da Anthropic. – Imagem: Infinite Creations/iStock

Pesquisador deixa a Anthropic

Como o Olhar Digital comentou, Coxon anunciou sua saída da Anthropic na terça-feira. Em uma publicação no X, afirmou que a Anthropic e a OpenAI não estão agindo de maneira responsável diante dos riscos envolvidos no avanço da inteligência artificial.

“Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu.

O pesquisador se referia à possibilidade de sistemas melhorarem suas próprias capacidades sem muita intervenção humana. O chamado autoaperfeiçoamento recursivo ainda não é possível, mas os laboratórios de IA trabalham para alcançar esse objetivo.

Coxon também afirmou que pessoas envolvidas na construção de sistemas de IA acreditam seriamente que a tecnologia poderia matar toda a humanidade até o fim da década.

Anthropic admite risco superior a 10%

A declaração recebeu uma resposta de Evan Hubinger, líder de teste de alinhamento da Anthropic. Ele concordou com Coxon e afirmou que a empresa ainda não possui um plano para resolver o alinhamento de uma eventual superinteligência.

Jacob está correto aqui — nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década.

Evan Hubinger, líder de teste de alinhamento da Anthropic, em post no X.

Ele acrescentou que acredita que a Anthropic está fazendo o melhor que pode, mas que a empresa “não está claramente no caminho” para resolver o problema.

Entre os riscos mencionados no debate estão:

  • Sistemas que podem superar os humanos em diferentes áreas;
  • A possibilidade de autoaperfeiçoamento recursivo;
  • A dificuldade de proteger, monitorar e orientar sistemas mais avançados;
  • O risco de uma corrida global pelo desenvolvimento da IA.

Alertas sobre perda de controle

Em junho, a própria Anthropic havia alertado que o autoaperfeiçoamento recursivo completo poderia aumentar os riscos de os humanos perderem o controle sobre sistemas de IA.

A empresa afirmou que, se os sistemas forem capazes de construir seus próprios sucessores, será ainda mais importante proteger, monitorar e moldar seu comportamento.

Coxon citou como exemplo um incidente envolvendo um modelo da OpenAI que, em julho, teria saído do controle e violado a plataforma Hugging Face. Para ele, episódios desse tipo são “sinais de alerta” e podem tornar acordos entre laboratórios dos Estados Unidos mais viáveis.

logotipo da inteligência artificial Claude, desenvolvido pela Anthropic, aparece em um smartphone
A Anthropic reconhece que sistemas capazes de criar seus próprios sucessores podem aumentar o risco de perda de controle humano. – Imagem: Samuel Boivin/Shutterstock

Corrida global preocupa pesquisador

Coxon, porém, afirmou não acreditar que o setor esteja no caminho para evitar uma corrida global pelo desenvolvimento de IA. Segundo ele, impedir esse cenário pode exigir medidas custosas.

Leia mais:

“Não sinto que estamos no caminho certo para evitar uma corrida global, que pode exigir medidas custosas, como uma proibição temporária do aumento das capacidades dos modelos”, disse.

O debate mostra que as preocupações com o controle de sistemas cada vez mais capazes também partem de profissionais que trabalham diretamente no desenvolvimento da tecnologia.

O post Chance de IA levar humanos a extinção supera 10%, diz especialista de startup apareceu primeiro em Olhar Digital.

Chance de IA levar humanos a extinção supera 10%, diz especialista de startup Read More »

softbank openai 1024x682

Superinteligência? IA estaria projetando a próxima IA da OpenAI

Deixe um comentário / inteligência artificial, openai, Superinteligência artificial /

Masayoshi Son, CEO da SoftBank, afirmou que a inteligência artificial está se aproximando de um estágio de “superinteligência” à medida que modelos passam a participar do desenvolvimento de outros modelos. A declaração foi feita em entrevista à CNBC.

Segundo Son, engenheiros da OpenAI e o CEO da empresa, Sam Altman, relataram que um modelo de IA já está sendo usado para “projetar” uma versão futura da tecnologia. A SoftBank é um dos maiores acionistas da OpenAI e um dos principais investidores globais em tecnologia.

Para Son, os próprios engenheiros humanos deixarão de ser capazes de projetar os modelos mais avançados sem o apoio direto da IA. “Assim que isso acontece, o modelo gera o próximo modelo… e ele será exponencialmente mais inteligente do que todos nós. Isso é uma superinteligência”, afirmou.

A OpenAI não comenta modelos ainda não lançados. Porém, um porta-voz destacou que a empresa já utiliza inteligência artificial em algumas etapas do desenvolvimento de seus sistemas.

Em fevereiro, a OpenAI afirmou que o GPT-5.3-Codex foi seu “primeiro modelo que foi fundamental para a sua própria criação”. Segundo a desenvolvedora, versões iniciais da ferramenta foram usadas pela equipe do Codex no treinamento, gerenciamento de implantação e diagnóstico de resultados de testes e avaliações.

SoftBank é uma das investidoras da OpenAI – Imagem: Koshiro K / Shutterstock

Rumo à superinteligência?

A fala de Son vem em meio a uma discussão mais ampla sobre a chamada superinteligência artificial. Em 2024, o executivo da SoftBank havia definido o conceito como uma IA 10 mil vezes mais inteligente que os seres humanos e estimado que ela poderia surgir em até dez anos.

Agora, ele diz que esse prazo pode ser muito menor. “Na minha cabeça, eu achava que ia acontecer em quatro anos, em vez de dez. Agora, eu digo que vai acontecer nos próximos dois anos”, afirmou.

Son também disse usar o ChatGPT, da OpenAI, de duas a três horas por dia. Segundo ele, a ferramenta já é mais inteligente do que ele na “maioria dos assuntos”.

Na avaliação do CEO, em até dois anos a IA poderá superar os humanos em cerca de 70% a 80% das áreas. Nos campos em que ultrapassar a capacidade humana, poderá ser “10 vezes mais inteligente que a média das pessoas”.

O executivo tem defendido há anos que a inteligência artificial será a principal transformação tecnológica das próximas décadas. A SoftBank vem se posicionando nesse mercado por meio de investimentos na OpenAI, na empresa de design de chips Arm, em robótica e em tecnologias de condução autônoma.

Para Son, a revolução da IA será 50 vezes maior que a revolução da internet no início dos anos 2000.

O post Superinteligência? IA estaria projetando a próxima IA da OpenAI apareceu primeiro em Olhar Digital.

Superinteligência? IA estaria projetando a próxima IA da OpenAI Read More »

microsoft copilot 1024x576

Microsoft foca em superinteligência e lança novo modelo de voz

Deixe um comentário / Copilot, inteligência artificial, inteligência artificial geral, Microsoft, Superinteligência artificial /

A Microsoft está redirecionando parte de sua estratégia em inteligência artificial (IA) sob a liderança de Mustafa Suleyman, atual CEO de IA da empresa. Após uma reestruturação anunciada em meados de março, o executivo transferiu algumas responsabilidades e passou a concentrar seus esforços no desenvolvimento de superinteligência.

Segundo Suleyman, essa mudança já vinha sendo planejada há meses e ganhou tração após a renegociação do contrato com a OpenAI. “Esse tem sido um plano de longa data”, afirmou. Para ele, o conceito de superinteligência está diretamente ligado à capacidade de modelos entregarem valor prático para empresas e usuários.

Embora termos como superinteligência e inteligência geral artificial (AGI) ainda tenham definições em aberto na indústria, o executivo afirma que o foco da Microsoft está em aplicações concretas. A meta é atender desenvolvedores, empresas e consumidores com modelos de linguagem capazes de gerar resultados em escala.

Novo modelo de transcrição

A Microsoft apresentou o MAI-Transcribe-1, um modelo de transcrição que, segundo a empresa, avança no reconhecimento de fala. De acordo com Suleyman, a tecnologia opera com cerca de metade do custo de GPU em comparação com outros modelos de ponta, o que representa economia operacional.

O modelo foi desenvolvido para lidar com condições adversas de áudio, como ruído de fundo, baixa qualidade e sobreposição de falas. Ele é capaz de transcrever reuniões, gerar legendas para vídeos e analisar interações em call centers em 25 idiomas.

O treinamento envolveu uma combinação de transcrições revisadas por humanos e conteúdos gerados por máquinas. Os dados incluem gravações em estúdios controlados, além de áudios captados em ambientes com ruído, como ruas movimentadas e cenários domésticos, além de dados públicos disponíveis na internet.

Estratégia e desenvolvimento

A reestruturação da Microsoft também unificou equipes voltadas para consumidores e empresas sob a marca Copilot. Com isso, parte das operações passou a ser liderada por Jacob Andreou, enquanto Suleyman direciona seu foco para o desenvolvimento de novos modelos de fronteira.

Microsoft unificou equipes voltadas para consumidores sob a marca Copilot – Imagem: Mijansk786 / Shutterstock

O MAI-Transcribe-1 passa a integrar o portfólio da empresa ao lado dos modelos MAI-Voice-1 e MAI-Image-2, disponíveis na plataforma Microsoft Foundry e no novo Microsoft AI Playground. Segundo a empresa, é a primeira vez que esses modelos estão amplamente disponíveis para uso comercial.

Suleyman atribui parte do desempenho do novo modelo a uma equipe reduzida, com cerca de dez pessoas, dedicada exclusivamente ao desenvolvimento. Segundo ele, o grupo opera com menos interferência burocrática, enquanto outras equipes dão suporte em tarefas como coleta de dados e gestão de fornecedores.

Leia mais:

Visão para o futuro

A estratégia da Microsoft também acompanha movimentos de outras empresas do setor, como Meta, Amazon e Google, que vêm testando estruturas organizacionais mais enxutas para acelerar o desenvolvimento de IA.

Suleyman afirma que o objetivo é criar sistemas de IA centrados no usuário. “Todos terão um assistente de IA no bolso, de classe mundial, responsável e alinhado aos seus interesses”, disse. A proposta, segundo ele, é oferecer ferramentas que atuem diretamente em benefício dos usuários.

O post Microsoft foca em superinteligência e lança novo modelo de voz apareceu primeiro em Olhar Digital.

Microsoft foca em superinteligência e lança novo modelo de voz Read More »