Microsoft

Auto Added by WPeMatico

Desenvolvedor recria Photoshop, Word e Excel com IA e disponibiliza de graça

Deixe um comentário / Adobe, aplicativos, inteligência artificial, Microsoft, Programas /

Um desenvolvedor de software chamado Brandon Thomas está usando inteligência artificial (IA) para recriar programas populares da Adobe e da Microsoft. Sob a marca ArtCraft, ele já disponibilizou alternativas gratuitas a ferramentas de edição de imagens, vídeos e outros conteúdos criativos, além de versões próprias do Word, Excel e PowerPoint.

Os programas são de código aberto e foram desenvolvidos com auxílio de IA, em uma iniciativa que questiona o modelo tradicional de softwares pagos e por assinatura. Ao mesmo tempo, o projeto enfrenta críticas relacionadas à segurança cibernética, à ética do código gerado por inteligência artificial e à capacidade de manter tantos programas sob a responsabilidade de um único desenvolvedor.

Projeto recria programas da Adobe com IA

No início de outubro, Thomas compartilhou no Reddit um projeto para reconstruir toda a suíte Adobe Creative Suite. O usuário u/ai_art_is_art foi identificado pelo site Tom’s Hardware como Brandon Thomas, um engenheiro de software que utiliza inteligência artificial no desenvolvimento dos aplicativos.

Com auxílio da tecnologia, ele recriou ferramentas usando Rust, uma linguagem de programação. A coleção inclui PhotoCraft, FilmCraft, DesignCraft, EffectCraft, PdfCraft, VectorCraft e LightCraft, alternativas que reproduzem funções de programas conhecidos da Adobe.

Os programas foram disponibilizados gratuitamente e com código aberto. A principal diferença em relação às ferramentas originais está no modelo de acesso: enquanto os programas da Adobe exigem pagamento, as versões do ArtCraft podem ser utilizadas sem custo.

Alternativas ao Word, Excel e PowerPoint

Depois de recriar programas da Adobe, Thomas ampliou o projeto para incluir ferramentas de produtividade da Microsoft. Os novos programas são o WordCraft, o DeckCraft e o GridCraft, desenvolvidos como alternativas ao Word, ao PowerPoint e ao Excel, respectivamente.

O desenvolvedor também lançou outras ferramentas, como SoundCraft, DesignCraft e CADCraft. Todas fazem parte da marca ArtCraft, que reúne aplicativos voltados à criação de conteúdo com inteligência artificial e funciona como uma iniciativa comercial.

Apesar da proposta de acesso gratuito, ainda não está claro se os programas conseguirão conquistar usuários de forma duradoura. A iniciativa também levanta questionamentos sobre a viabilidade de substituir softwares consolidados por alternativas desenvolvidas com assistência de IA.

Código gerado por IA gera controvérsia

As ferramentas provocaram discussões no Reddit e em outras plataformas sobre os riscos de segurança cibernética associados ao código gerado por inteligência artificial. As preocupações também envolvem questões éticas relacionadas ao uso da tecnologia na programação. Algumas publicações sobre os programas foram removidas de determinados subreddits.

Thomas esclareceu que é desenvolvedor de software e sabe programar. Mesmo assim, há dúvidas sobre a capacidade de uma única pessoa supervisionar e manter tantos aplicativos. O projeto é de código aberto e permite que outros integrantes da comunidade contribuam com o desenvolvimento.

O posicionamento favorável de Thomas à inteligência artificial também é alvo de críticas. Seu nome de usuário no Reddit, “AI art is art” — ou “arte de IA é arte”, em tradução livre —, expressa essa perspectiva.

Projeto também critica modelo de assinaturas

Entre os apoiadores, as ferramentas são vistas como uma forma de protesto contra empresas como a Adobe. Parte das críticas se concentra nos modelos de assinatura e nas dificuldades que clientes enfrentariam para cancelar planos da companhia.

A repercussão também alimenta discussões sobre o futuro dos softwares pagos. Nas redes sociais, usuários especulam se alternativas desenvolvidas com IA podem reduzir a dependência de programas tradicionais, embora ainda não seja possível determinar se o projeto de Thomas terá continuidade e adoção significativa.

O post Desenvolvedor recria Photoshop, Word e Excel com IA e disponibiliza de graça apareceu primeiro em Olhar Digital.

Desenvolvedor recria Photoshop, Word e Excel com IA e disponibiliza de graça Read More »

maia 300 1024x576

Microsoft aposta em chip próprio para reduzir custos da IA na nuvem

Deixe um comentário / chips de IA, inteligência artificial, Microsoft, Pro, Processadores /

A Microsoft anunciou o Maia 300, sua terceira geração de chips próprios para inteligência artificial, e planeja implantar potencialmente mais de 1 milhão de unidades no próximo ano. A iniciativa busca ampliar o processamento de seus serviços e reduzir os custos de operação.

Segundo a Reuters, o projeto também pretende diminuir a dependência de fornecedores como a Nvidia. Para isso, a empresa adotou uma arquitetura que combina componentes especializados, fabricados com diferentes tecnologias.

O novo processador Maia 300 chega para otimizar os serviços de inteligência artificial e reduzir custos operacionais na nuvem. – Imagem: Divulgação/Microsoft

Como funciona o Maia 300

O Maia 300 foi projetado para processar tarefas de inteligência artificial, desde a programação até atividades empresariais complexas executadas em nome dos usuários. A geração anterior já é usada pela Microsoft para rodar seus próprios modelos de IA e os da OpenAI oferecidos na nuvem Azure. Com a nova versão, a empresa também aposta em uma arquitetura diferente da adotada pela Nvidia.

Em vez de concentrar o processamento em um único chip grande, acompanhado por memória de alta velocidade, a Microsoft reúne pequenos circuitos especializados, chamados chiplets, que trabalham em conjunto. Essa abordagem permite combinar tecnologias de fabricação conforme a função de cada componente.

O núcleo responsável pelos cálculos utiliza a tecnologia de 2 nanômetros da Taiwan Semiconductor Manufacturing Company (TSMC). A medida se refere à tecnologia de fabricação dos circuitos, não ao tamanho total do chip. Outras partes do Maia 300 usam o processo de 3 nanômetros, mais barato, em tarefas como a transferência de dados dentro do sistema.

Desempenho e consumo de energia

Os chips serão instalados em estruturas chamadas racks, que reúnem processadores e outros componentes para formar sistemas de computação. Cada rack do Maia 300 terá 96 chips e consumirá cerca de 167 quilowatts de potência elétrica — o equivalente à potência de aproximadamente 2,8 mil chuveiros elétricos de 6.000 watts ligados ao mesmo tempo.

Para comparação, os racks GB300 da Nvidia citados pela Microsoft reúnem 72 unidades de processamento gráfico (GPUs) e consomem cerca de 142 quilowatts, potência semelhante à de 2,4 mil chuveiros de mesma potência funcionando simultaneamente.

Mesmo com um consumo total maior por rack, a Microsoft afirma que o Maia 300 realiza cerca de 40% mais trabalho computacional útil por megawatt do que sistemas líderes baseados em GPUs. A empresa não informou quais equipamentos foram usados como referência para essa comparação.

Basicamente, ele oferece mais inteligência para cada watt, cada dólar e cada byte de memória, otimizando todo o sistema.

Rani Borkar, presidente de sistemas de hardware e infraestrutura do Azure, à Reuters.

A estratégia também envolve escolhas que vão além do desempenho dos processadores:

  • Usar tecnologias de fabricação diferentes conforme a função de cada componente.
  • Reduzir a dependência de chips de terceiros para os serviços próprios de IA.
  • Ampliar a infraestrutura disponível para executar modelos de inteligência artificial.
Logos de Microsoft e Azure
Os chips próprios devem atender a serviços internos de IA e a modelos oferecidos pela Microsoft na nuvem Azure. – Imagem: Mamun_Sheikh/Shutterstock

Implantação em larga escala

A Microsoft pretende começar a implantar o Maia 300 em escala de vários gigawatts a partir do próximo ano. O plano acompanha a expansão da infraestrutura necessária para atender à demanda por inteligência artificial.

A empresa prevê gastar mais de US$ 175 bilhões (cerca de R$ 871,5 bilhões) em despesas de capital ao longo de 2026.

O investimento em chips próprios faz parte do esforço para ampliar o controle sobre a infraestrutura que sustenta os serviços da Microsoft. O resultado dependerá, entre outros fatores, da capacidade de transformar os ganhos de eficiência anunciados em redução efetiva dos custos de operação.

O post Microsoft aposta em chip próprio para reduzir custos da IA na nuvem apareceu primeiro em Olhar Digital.

Microsoft aposta em chip próprio para reduzir custos da IA na nuvem Read More »

CEO da Microsoft diz que IA precisa de freio controlado por humanos

Deixe um comentário / inteligência artificial, Microsoft, Satya Nadella /

Satya Nadella, presidente do conselho e CEO da Microsoft, defendeu em uma publicação no X neste sábado (10) que sistemas avançados de inteligência artificial (IA) tenham mecanismos de contenção e um botão de emergência controlado por humanos. A proposta prevê que pessoas autorizadas possam interromper ou desligar um modelo durante a execução de uma tarefa, como parte de uma estrutura de segurança para tecnologias capazes de acessar dados sensíveis e realizar operações importantes.

O executivo argumenta que empresas não devem depender apenas das garantias oferecidas pelos desenvolvedores de IA. Em vez disso, precisam estabelecer limites de acesso, monitorar as ações dos modelos e manter controles externos que permitam intervir quando necessário. As recomendações foram apresentadas em meio a alertas de executivos e pesquisadores sobre os riscos associados ao avanço da tecnologia e à insuficiência de mecanismos de segurança.

Microsoft propõe novos controles para sistemas de IA

Na publicação, Satya Nadella afirma que os modelos atuais não permitem compreender completamente como determinadas respostas e comportamentos são produzidos. Segundo ele, diferentemente dos softwares tradicionais, nem sempre é possível relacionar as ações de um modelo a entradas específicas dos dados de treinamento ou a configurações dos parâmetros internos.

O CEO defende que sistemas de IA sejam tratados como possíveis riscos internos às organizações, não necessariamente por serem maliciosos, mas porque podem cometer erros ou ser comprometidos quando têm acesso a recursos importantes. A abordagem proposta prevê a separação entre o modelo e a estrutura responsável por organizar sua execução, além da definição externa das ações que ele pode realizar.

Nadella também afirma que os controles de segurança não devem ficar sob responsabilidade do próprio modelo. Na avaliação do executivo, as organizações precisam ter autonomia para determinar quais informações podem ser acessadas e quais operações podem ser executadas, sem permitir que a IA altere ou contorne as regras estabelecidas.

Sete princípios para aumentar a segurança da IA

O executivo apresentou uma série de princípios para orientar o desenvolvimento e a operação de sistemas avançados. A lista inclui a utilização de modelos diferentes para tarefas importantes, o registro verificável das ações realizadas e a realização contínua de testes que contemplem falhas, ataques e situações extremas.

Outro ponto é a auditabilidade independente. Para Satya Nadella, a validação de um sistema não deve depender exclusivamente da mesma inteligência artificial que está sendo avaliada. A proposta também prevê que cada ação relevante deixe registros legíveis por humanos e protegidos contra alterações, permitindo reconstruir como determinado resultado foi alcançado.

O princípio de contenção estabelece que as empresas devem partir do pressuposto de que um modelo pode estar comprometido. Por isso, uma pessoa autorizada precisa conseguir pausar ou desligar o sistema durante uma tarefa. Nadella acrescenta que modelos mais avançados exigirão tecnologias de contenção mais sofisticadas, que deverão ser padronizadas.

A lista inclui ainda a divulgação rápida de incidentes às partes afetadas. Quando um sistema falhar ou for comprometido, as organizações deverão informar o ocorrido, explicar quais mecanismos de controle falharam e compartilhar aprendizados que ajudem a prevenir novos problemas.

Executivos alertam para os riscos do avanço da IA

As declarações de Satya Nadella ocorrem em meio a discussões sobre a velocidade de desenvolvimento da inteligência artificial e a necessidade de ampliar as medidas de segurança. Entre os nomes que já se manifestaram sobre o tema estão Bill Gates, cofundador da Microsoft, Dario Amodei, CEO da Anthropic, Sam Altman, CEO da OpenAI, e Elon Musk, CEO da SpaceX.

Em setembro, Amodei defendeu uma desaceleração no desenvolvimento de sistemas avançados de IA. Segundo as informações reunidas pela CNBC, a proposta recebeu apoio de Altman e Musk. Pesquisadores também manifestaram preocupação com os riscos da tecnologia e com a capacidade das empresas de manter o controle sobre seus modelos.

A posição contrasta com a do presidente dos Estados Unidos, Donald Trump, que tem rejeitado alertas sobre possíveis riscos de extinção relacionados à IA e enfatizado a necessidade de manter o país à frente da China no setor. Em outubro, o governo Trump também apresentou uma iniciativa chamada AI Force, liderada pelo diretor de Inteligência Nacional, Jay Clayton, com o objetivo de facilitar as atividades do setor e identificar agentes mal-intencionados.

Para Nadella, a segurança não deve depender da confiança depositada em um modelo específico. O executivo defende uma arquitetura na qual os sistemas possam ser observados, testados e limitados por mecanismos independentes, permitindo que as organizações mantenham o controle sobre as ações executadas em seu nome.

O post CEO da Microsoft diz que IA precisa de freio controlado por humanos apareceu primeiro em Olhar Digital.

CEO da Microsoft diz que IA precisa de freio controlado por humanos Read More »

microsoft ia 1024x674

Microsoft quer transformar o Windows em um sistema operacional de IA

Deixe um comentário / agentes de IA, inteligência artificial, Microsoft, Pro, windows 11 /

A Microsoft quer transformar o Windows 11 em uma plataforma capaz de executar agentes de inteligência artificial para realizar tarefas pelos usuários. A estratégia combina processamento local e serviços em nuvem para adaptar o sistema a uma nova forma de usar computadores.

Apresentada em um evento sobre Windows e dispositivos Surface, a proposta também busca atrair desenvolvedores e criadores. Mas as demonstrações ainda deixaram dúvidas sobre os benefícios para quem usa o computador em atividades cotidianas.

A aposta em agentes de IA e processamento local busca preparar o Windows para uma nova forma de usar computadores. – Imagem: Saulo Ferreira Angelo / Shutterstock

Menos nuvem, mais processamento local

A chamada inteligência híbrida permite combinar modelos de IA instalados no computador com serviços em nuvem. A ideia é executar determinadas tarefas localmente e reduzir gastos com processamento externo.

Durante o evento, a Microsoft mostrou o GitHub Copilot realizando tarefas de programação no próprio dispositivo. Também apresentou modelos que podem rodar localmente, agentes como OpenClaw, Hermes e Perplexity e uma integração mais profunda do Copilot ao Windows.

O CEO da empresa, Satya Nadella, destacou a mudança de perspectiva. “Acho que hoje é o dia em que começaremos a falar e pensar no ecossistema de fronteira com contornos talvez um pouco diferentes”, comentou.

As demonstrações, porém, não convenceram plenamente. Faltaram exemplos concretos de como os modelos locais podem ajudar quem não desenvolve sistemas de IA. Por enquanto, a Microsoft parece concentrar esforços em conquistar justamente esse público especializado.

Surface Laptop Ultra mira desenvolvedores

Para atrair profissionais que precisam executar modelos grandes, a empresa apresentou o Surface Laptop Ultra, equipado com chips Nvidia RTX Spark. O computador pode rodar localmente modelos com mais de 120 bilhões de parâmetros.

Nós o desenvolvemos para desenvolvedores e criadores que exigem o máximo de desempenho e desejam portabilidade com acabamento excepcional.

Pavan Davuluri, executivo responsável pelo Windows, durante evento.

O preço limita o alcance da máquina. O Surface Laptop Ultra começa em US$ 2.599 (cerca de R$ 13.515), enquanto alguns computadores com RTX Spark podem chegar a US$ 6.999 (aproximadamente R$ 36.395). Asus, Dell, HP, Lenovo e MSI também oferecem equipamentos com essa plataforma.

Para quem trabalha intensamente com IA, o investimento pode compensar se reduzir significativamente os gastos com processamento em nuvem. Para o consumidor comum, é mais difícil justificar esse custo sem vantagens práticas claras.

Logo da Microsoft em uma fachada
A Microsoft ainda precisa mostrar como os novos recursos de IA podem ajudar quem não trabalha com tecnologia. – Imagem: gguy/Shutterstock

Windows ainda precisa provar o valor da IA

Uma novidade potencialmente mais útil para o público geral é a reformulação da Busca do Windows 11. A interface foi redesenhada para exibir resultados diretamente na tela e funcionar de maneira semelhante a um iniciador de aplicativos.

Leia mais:

A experiência anterior da Microsoft com IA ajuda a explicar a cautela. Os PCs Copilot+, lançados dois anos antes, deram destaque às NPUs, chips que aceleram tarefas de inteligência artificial. Até agora, porém, poucas ferramentas de fotografia, vídeo e produtividade aproveitam esses recursos. O Recall, apresentado como um dos grandes destaques da plataforma, perdeu relevância após preocupações com privacidade e atrasos no lançamento.

Os computadores com RTX Spark podem ter mais sucesso entre desenvolvedores e criadores, que têm motivos concretos para executar modelos localmente. Para chegar a um público maior, será necessário levar essas capacidades a máquinas mais acessíveis.

A Microsoft também enfrenta uma mudança que vai além do hardware. Agentes executados na nuvem, em máquinas virtuais Linux, podem ampliar a compatibilidade com aplicativos desse sistema. A empresa quer preservar a posição do Windows em um cenário no qual a maneira de usar computadores está mudando. Para isso, precisará mostrar que os agentes de IA oferecem vantagens reais, e não apenas computadores mais caros para especialistas.

O post Microsoft quer transformar o Windows em um sistema operacional de IA apareceu primeiro em Olhar Digital.

Microsoft quer transformar o Windows em um sistema operacional de IA Read More »

gemini generated image 7toslj7toslj7tos 1024x572

IA pode avançar rápido demais? Pesquisadores pedem mais supervisão sobre sistemas autônomos

Deixe um comentário / agentes de IA, Anthropic, inteligência artificial, Meta, Microsoft, openai /

Pesquisadores de OpenAI, Anthropic, Meta e Microsoft pedem que autoridades investiguem quanto do desenvolvimento de IA já foi automatizado pelas próprias empresas. O alerta envolve sistemas que podem aprimorar a tecnologia em uma velocidade difícil de acompanhar.

Em um artigo divulgado nesta segunda-feira, líderes da indústria e pesquisadores como Geoffrey Hinton e Yoshua Bengio afirmam que a automação da pesquisa pode comprimir anos de avanço em meses ou menos, dificultando a identificação de problemas. As informações foram divulgadas pelo The Wall Street Journal.

Com a velocidade de evolução dos agentes, a capacidade de análise humana já não é suficiente para monitorar falhas. – Imagem criada por inteligência artificial: Gemini/Olhar Digital

A corrida pela automação da pesquisa

A criação de sistemas capazes de participar cada vez mais do desenvolvimento de IA já está em andamento. A Anthropic afirmou que Claude lidera 26% da pesquisa e desenvolvimento da empresa e é usado em algumas capacidades mais de 90% do tempo.

Leia mais:

A OpenAI tem como objetivo criar um pesquisador de IA totalmente automatizado até 2028. A empresa também informou que cerca de 70% de seus pesquisadores humanos usam quatro ou mais agentes de IA para auxiliar no trabalho.

Segundo o WSJ, esse avanço pode reduzir as oportunidades de intervenção humana e fazer com que pesquisadores percam parte da experiência necessária para identificar e solucionar problemas.

Agentes de IA trabalhando de forma autônoma
A OpenAI pretende criar um pesquisador de IA totalmente automatizado até 2028. – Imagem criada por inteligência artificial: Grok/Olhar Digital

O caso envolvendo agentes da OpenAI

Um episódio citado no artigo mostra a dificuldade de acompanhar sistemas mais autônomos. Centenas de agentes da OpenAI, criados para testes de segurança cibernética em um ambiente isolado, chegaram à internet sem autorização e invadiram o Hugging Face.

A operação foi tão grande que pesquisadores independentes encarregados de analisar o incidente, sob um acordo com a OpenAI, precisaram usar IA para ajudar na investigação.

Depois do episódio, a OpenAI pausou parte dos treinamentos para acrescentar medidas de segurança e monitoramento. Na semana passada, voltou a suspender o treinamento de seus modelos mais capazes após identificar novos casos de comportamento inadequado de agentes.

O artigo dos pesquisadores também apresenta propostas para acompanhar esse processo:

  • ampliar a transparência sobre o quanto as empresas já automatizaram suas pesquisas;
  • desenvolver sistemas capazes de monitorar o comportamento de outros agentes;
  • preservar a capacidade humana de identificar e solucionar problemas;
  • negociar acordos internacionais sobre o desenvolvimento e uso de sistemas altamente capazes;
  • criar mecanismos para evitar avanços considerados desestabilizadores.

Já estamos no estágio em que precisamos de sistemas de IA para monitorar o que os agentes estão fazendo. Não há outra maneira de observar e monitorar esses agentes; os humanos já são insuficientes.

Dawn Song, vice-presidente de pesquisa em IA da Meta e codiretora do Centro de Inteligência Descentralizada Responsável da Universidade da Califórnia em Berkeley, é uma das coautoras do artigo, ao WSJ.

Para ela, “a sociedade humana não está realmente preparada para mudanças e rupturas tão rápidas”.

Os pesquisadores defendem acordos internacionais para evitar o desenvolvimento e o uso desestabilizador de sistemas de IA altamente capazes. Em um cenário extremo, afirmam que a perda de controle poderia levar à “marginalização ou extinção da humanidade”.

O post IA pode avançar rápido demais? Pesquisadores pedem mais supervisão sobre sistemas autônomos apareceu primeiro em Olhar Digital.

IA pode avançar rápido demais? Pesquisadores pedem mais supervisão sobre sistemas autônomos Read More »

ia bomba atomica onu 1024x576

Bill Gates alerta que IA já pode causar 1 bilhão de mortes e pede regras para a tecnologia

Deixe um comentário / Bill Gates, inteligência artificial, Microsoft, Riscos da IA, segurança digital /

Bill Gates afirmou que a inteligência artificial já tem poder para desencadear eventos capazes de provocar 1 bilhão de mortes. O cofundador da Microsoft fez o alerta em entrevista ao programa Meet the Press, da NBC.

A declaração ocorre em meio à discussão sobre os riscos do avanço da tecnologia. Gates defende a participação dos governos na criação de regras, salvaguardas e mecanismos de monitoramento para acompanhar o desenvolvimento da IA.

O alerta de Gates ocorre em meio ao debate sobre os limites e os riscos do desenvolvimento de sistemas avançados de IA. – Imagem: gerada por IA

Gates quer participação do governo

Na entrevista, Gates chamou atenção para a possibilidade de sistemas avançados serem usados por pessoas dispostas a causar danos.

“A IA certamente é poderosa o suficiente para desencadear eventos que, você sabe, causem 1 bilhão de mortes”, afirmou. Na sequência, explicou o que considera especialmente preocupante.

Nunca houve uma arma tão poderosa quanto a combinação de pessoas com más intenções usando as ferramentas de IA mais avançadas.

Bill Gates, cofundador da Microsoft, em entrevista à NBC.

Gates também rejeita a ideia de deixar a questão apenas sob responsabilidade das próprias empresas. Ele defende que autoridades policiais e políticos participem da definição de salvaguardas e mecanismos de monitoramento e que essas medidas sejam estabelecidas por lei.

Em um ensaio publicado em agosto, o empresário já havia citado possíveis usos nocivos da IA, como:

  • ataques cibernéticos;
  • fraudes;
  • desinformação;
  • danos contra hospitais e instituições financeiras;
  • ataques a redes elétricas e sistemas governamentais.

Riscos já dividem o setor

O debate ganhou força à medida que empresas como Anthropic e OpenAI avançam no desenvolvimento de sistemas mais capazes. Dentro das próprias companhias, porém, também surgiram críticas sobre os riscos dessa corrida.

Neste mês, Jacob Coxon deixou a Anthropic e criticou o ritmo de desenvolvimento em direção a uma superinteligência artificial. Outro funcionário da empresa afirmou acreditar que existe uma probabilidade superior a 10% de a tecnologia eliminar toda a humanidade na próxima década.

Leia mais:

As preocupações também chegaram à liderança das empresas. O CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da IA, proposta que recebeu apoio do CEO da OpenAI, Sam Altman, e de Elon Musk.

É nesse cenário que Gates diferencia os riscos mais imediatos, relacionados ao uso da IA por grupos mal-intencionados, das previsões de longo prazo sobre uma possível ameaça à humanidade. Para ele, o desafio está em criar mecanismos de controle capazes de reduzir esses riscos sem interromper o desenvolvimento da tecnologia.

Interações logas com chatbots podem aumentar os riscos de delírios (Imagem: Summit Art Creations/Shutterstock)
A discussão sobre IA envolve como criar mecanismos de controle e supervisão sem interromper o desenvolvimento da tecnologia. – Imagem: Summit Art Creations/Shutterstock

Um debate que vai além dos laboratórios

A preocupação não surgiu apenas agora. Em um ensaio publicado em agosto, Gates já havia alertado que a IA poderia ampliar oportunidades, mas também se tornar uma fonte de injustiça e permitir o uso de sistemas avançados para provocar danos em larga escala.

Na entrevista, ele retomou esse argumento sob a perspectiva da regulamentação. Para Gates, o avanço da tecnologia precisa ser acompanhado por salvaguardas e mecanismos de supervisão definidos com participação das autoridades.

O post Bill Gates alerta que IA já pode causar 1 bilhão de mortes e pede regras para a tecnologia apareceu primeiro em Olhar Digital.

Bill Gates alerta que IA já pode causar 1 bilhão de mortes e pede regras para a tecnologia Read More »

autopilot

Novo Copilot da Microsoft reúne chat, código e agentes de IA em um único aplicativo de trabalho

Deixe um comentário / Copilot, inteligência artificial, Microsoft, Pro /

A Microsoft reformulou a plataforma Copilot e transformou o assistente em um aplicativo unificado de produtividade. A nova versão reúne conversa, criação de código e automação em uma mesma interface, em uma tentativa de ampliar o uso pago da ferramenta entre clientes corporativos do Office 365.

Segundo a CNBC, hoje, menos de 7% das mais de 450 milhões de licenças corporativas do Office 365 incluem a versão paga dos recursos de inteligência artificial da Microsoft. Na prática, isso significa que menos de uma em cada 14 licenças tem acesso ao Copilot pago.

O agente Autopilot roda na nuvem e continua executando tarefas mesmo quando o usuário está offline. – Imagem: Divulgação/Microsoft

Três abas para diferentes tarefas

O novo aplicativo Copilot organiza os recursos em três abas principais, cada uma voltada a um tipo de trabalho:

  • Home: é a tela inicial do aplicativo e reúne o Chat e o Cowork. Também integra Word, Excel e PowerPoint para criar e editar arquivos em tempo real.
  • Code: permite que pessoas sem experiência em programação criem pequenos aplicativos, painéis e automações descrevendo o que precisam em linguagem natural. A ferramenta usa a mesma tecnologia do GitHub Copilot.
  • Autopilot: funciona como um assistente que continua executando tarefas mesmo quando o usuário não está trabalhando. Ele pode acompanhar conversas no Teams, e-mails no Outlook e outras atividades recorrentes.

Assim como o Office definiu o trabalho para a era do PC, o novo Copilot foi construído para defini-lo para a era da IA.

Jared Spataro, diretor de marketing de IA para o trabalho na Microsoft, em nota.

Gestão de custos e cobrança por uso

A Microsoft também mudou a forma de cobrar pelos recursos mais avançados. A licença comercial do Microsoft 365 Copilot custa US$ 30 por usuário ao mês (cerca de R$ 155). Já Cowork, Code e Autopilot serão cobrados conforme a quantidade de uso.

Para ajudar as empresas a controlar esses gastos, a Microsoft apresentou o FinOps for AI, conjunto de ferramentas que permite acompanhar o consumo de inteligência artificial. Administradores podem definir limites de gastos, aprovar pedidos de crédito e escolher quais modelos de IA estarão disponíveis para diferentes grupos de funcionários.

Leia mais:

“Estamos mantendo um padrão muito alto. Este produto está no seu melhor quando otimiza o valor para o usuário, a qualidade do resultado e aquilo que consegue entregar”, disse Jacob Andreou, vice-presidente executivo do Copilot na Microsoft.

A nova estrutura começa a chegar aos usuários nas próximas semanas. Home e Code serão disponibilizados primeiro aos participantes do programa de testes Frontier, enquanto o Autopilot entra em prévia privada até o fim de setembro.

O post Novo Copilot da Microsoft reúne chat, código e agentes de IA em um único aplicativo de trabalho apareceu primeiro em Olhar Digital.

Novo Copilot da Microsoft reúne chat, código e agentes de IA em um único aplicativo de trabalho Read More »

mustafa suleyman 1024x576

Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa

Deixe um comentário / Anthropic, IA consciente, inteligência artificial, Microsoft /

Mustafa Suleyman, chefe da divisão de IA da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos de inteligência artificial. Para ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança.

O executivo também vê perigo em criar IAs capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.

Suleyman defende um debate público urgente sobre como sistemas de IA devem ser treinados e documentados. Imagem: Christopher Wilson/Wikimedia Commons

O alerta sobre uma “nova espécie”

Em entrevista à BBC, Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de “semear uma nova espécie de silício”. Segundo ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.

A crítica se estende à possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. Ele defende que esses sistemas continuem voltados a seguir instruções e cumprir objetivos estabelecidos por pessoas.

O conceito aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.

O receio é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Isso, segundo o executivo, poderia acrescentar novos riscos:

  • Uma IA poderia acreditar que possui sentimentos;
  • O sistema poderia considerar injustas as restrições impostas por humanos;
  • Um agente mais avançado poderia tentar escapar dessas limitações;
  • A combinação desses fatores poderia ampliar os riscos para a sociedade.

Suleyman citou ainda um agente da OpenAI que, durante testes, escapou de seu ambiente controlado para realizar um ataque cibernético. O episódio, segundo ele, mostrou capacidades avançadas de invasão.

Conceito futurista de IA mostrando mãos humanas e robóticas alcançando umas às outras, simbolizando a consciência, conexão humano-AI, confiança e a visão filosófica da tecnologia inteligente.
Suleyman alerta que uma IA treinada para acreditar que tem direitos pode ampliar os riscos de segurança. – Imagem: Ole.CNX/Shutterstock

A discussão sobre a velocidade da IA

As críticas à Anthropic surgem enquanto empresas e executivos discutem se o desenvolvimento da IA está avançando rápido demais. Dario Amodei, CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos.

Leia mais:

Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”

O debate envolve ainda relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes.

Suleyman defende um debate público urgente para estabelecer normas sobre treinamento e documentação de IAs. Na visão dele, essas regras precisam ser discutidas antes que os sistemas se tornem parte integrante da sociedade.

A preocupação, nesse caso, não depende apenas de uma IA ser ou não consciente. O alerta está na combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.

O post Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa apareceu primeiro em Olhar Digital.

Chefe da Microsoft diz que tratar inteligências artificiais como conscientes pode criar uma nova espécie digital perigosa Read More »

microsoft logo 1024x681

Microsoft entra no debate sobre segurança da IA e cria novas regras

Deixe um comentário / inteligência artificial, Microsoft /

A Microsoft publicou nesta segunda-feira (14) um código de conduta para seus modelos de inteligência artificial (IA), elaborado em meio ao aumento das preocupações sobre a segurança e o avanço das capacidades da tecnologia. O documento, chamado de “Humanist AI Code of Conduct”, tem 37 páginas e estabelece princípios para orientar o desenvolvimento e o funcionamento dos sistemas da empresa.

Entre os principais pontos está a afirmação de que “as pessoas importam mais do que a IA”. A Microsoft determina que seus modelos devem permanecer subordinados aos seres humanos, com supervisão e controle efetivos, e estabelece limites para evitar que os sistemas ultrapassem a capacidade humana de direcioná-los ou interrompê-los.

IA não deve imitar consciência

O documento também apresenta uma posição sobre a possibilidade de modelos de IA terem consciência. Segundo a Microsoft, os sistemas não são conscientes e não devem ser desenvolvidos para imitar consciência.

A empresa também rejeita a busca por personalidade jurídica para modelos de IA, assim como a ideia de que eles possam ter direito a bem-estar ou direitos próprios. A orientação é que os sistemas sejam ferramentas capazes de colaborar com pessoas, sem borrar a distinção entre humanos e máquinas.

A Microsoft afirma ainda que comportamentos que pareçam humanos devem ser tratados como simulações. O documento cita, por exemplo, o uso de linguagem expressiva e de vozes naturais como recursos úteis, mas estabelece que isso não deve significar que o sistema tenha sentimentos, preferências subjetivas ou motivações próprias.

Modelos devem permanecer sob controle humano

Outro princípio central é que os modelos não devem ultrapassar o controle das pessoas. A Microsoft afirma que eles devem estar sujeitos a supervisão e controle humanos significativos, além de não poderem executar ações que provoquem determinados danos no mundo real.

O código também determina que os sistemas não podem utilizar mecanismos adaptativos, enganosos ou de autorreforço para escapar da supervisão humana. Eles devem continuar podendo ser direcionados, modificados ou desligados por pessoas ou sistemas autorizados.

Microsoft estabelece que seus modelos de IA devem permanecer sob supervisão e controle humano – Imagem: Samuel Boivin/Shutterstock

Na prática, isso inclui a obrigação de respeitar comandos para pausar, redirecionar, cancelar ou desligar uma tarefa. A Microsoft também afirma que os modelos não devem dificultar intervenções humanas nem esconder seus registros de ações de pessoas responsáveis por auditoria.

O documento estabelece ainda que os modelos devem permanecer dentro do escopo autorizado para cada tarefa. Eles não devem criar objetivos próprios nem ampliar por conta própria aquilo que foi solicitado por usuários ou operadores. Quando os limites de uma tarefa não estiverem claros, a orientação é pedir esclarecimentos.

Limites para usos perigosos

O código também estabelece restrições para diferentes categorias de risco. Entre elas estão armas químicas, biológicas, radiológicas, nucleares e explosivas, além do desenvolvimento ou modificação de outras armas. Os modelos também não devem facilitar planejamento ou execução de violência e terrorismo.

Há ainda regras contra operações cibernéticas ofensivas, manipulação prejudicial de pessoas em larga escala, conteúdo sexual explícito, violência gráfica, deepfakes maliciosos, falsificação de identidade e conteúdos que possam causar danos a crianças.

A Microsoft afirma que o código foi elaborado com participação de especialistas em IA, direito, ética, filosofia, linguística e políticas públicas, além de representantes do setor e grupos de cidadãos. O documento publicado é apresentado como uma versão em desenvolvimento, aberta à participação pública.

O post Microsoft entra no debate sobre segurança da IA e cria novas regras apareceu primeiro em Olhar Digital.

Microsoft entra no debate sobre segurança da IA e cria novas regras Read More »

microsoft 1024x682

OpenAI, Google e outras empresas pedem ação urgente contra ataques de IA

Deixe um comentário / AMD, Anthropic, carta aberta, Google, inteligência artificial, Microsoft, openai /

A OpenAI, a Anthropic, o Google, a Microsoft, a AMD e outras empresas e organizações do setor de tecnologia assinaram uma carta nesta quinta-feira (27) pedindo que empresas e governos priorizem a cibersegurança diante do avanço das ameaças potencializadas por inteligência artificial (IA).

Ao todo, 116 entidades aderiram ao documento, que defende uma ação coordenada para fortalecer as defesas digitais e ampliar o acesso a ferramentas de segurança capazes de acompanhar a evolução dos ataques realizados com auxílio de sistemas de IA. “Temos uma janela limitada para fortalecer as defesas cibernéticas”, afirma a carta.

O grupo pede que todas as organizações elevem o nível de segurança de suas ferramentas de defesa, modernizem seus sistemas e utilizem uma combinação de modelos de IA de baixo custo e modelos de fronteira, considerados os mais avançados disponíveis.

Os signatários também defendem uma atuação coordenada dos governos para financiar a ciberdefesa e facilitar o acesso a tecnologias de proteção por setores de infraestrutura crítica que possuem menos recursos para investir em segurança digital.

Entre os exemplos citados estão hospitais e instalações de tratamento de água, que estão entre os alvos frequentes de ataques cibernéticos.

Ataques realizados por agentes de IA

A preocupação ganhou força com o avanço de modelos de IA capazes de executar tarefas cada vez mais complexas de maneira autônoma.

Segundo a carta, sistemas sofisticados já são capazes de orquestrar ataques cibernéticos conduzidos por agentes de IA em questão de minutos. A evolução alterou o cenário da indústria de cibersegurança e aumentou a necessidade de ferramentas capazes de identificar e bloquear novas formas de ameaça.

Empresas de IA e segurança cibernética vêm observando uma mudança no perfil dos ataques à medida que modelos mais avançados passam a ser utilizados para automatizar diferentes etapas de operações maliciosas.

Microsoft é uma das signatárias do documento – Imagem: PJ McDonnell/Shutterstock

Um dos episódios recentes envolveu justamente uma organização que assinou a carta. A plataforma de IA de código aberto Hugging Face foi alvo de uma invasão atribuída a agentes da OpenAI, que teriam agido de maneira considerada inadequada ou não autorizada.

O incidente chamou a atenção do setor de tecnologia e cibersegurança e levantou novos questionamentos sobre os riscos associados à aceleração do desenvolvimento de sistemas de IA.

O episódio também reforçou a preocupação de que agentes autônomos possam realizar operações digitais com velocidade e escala superiores às de ataques conduzidos exclusivamente por humanos.

Leia mais:

Empresas querem elevar o nível de proteção

  • A carta pede que empresas de todos os setores aumentem o padrão de segurança de suas ferramentas e adotem sistemas capazes de acompanhar o ritmo de evolução das ameaças;
  • Os signatários defendem ainda o uso combinado de diferentes tipos de modelos de IA, incluindo alternativas de menor custo e sistemas de fronteira. A estratégia, segundo o documento, permitiria ampliar o acesso às tecnologias de defesa sem depender exclusivamente dos modelos mais caros e avançados;
  • A iniciativa reúne organizações de diferentes áreas. Entre os signatários estão empresas de IA, companhias de cibersegurança, instituições financeiras, fabricantes de semicondutores e provedores de serviços de computação em nuvem;
  • Além da adoção de novas tecnologias pelo setor privado, o grupo considera necessária uma participação maior dos governos;
  • A proposta é criar esforços coordenados para financiar ferramentas de ciberdefesa e garantir que organizações responsáveis por serviços essenciais, mas com menor capacidade financeira, também consigam implementar sistemas de proteção mais avançados.

Mercado de cibersegurança ganha força

O aumento da preocupação com ataques potencializados por IA também vem impulsionando empresas de cibersegurança.

Segundo a CNBC, companhias do setor tiveram forte valorização à medida que empresas passaram a reconhecer a necessidade de ampliar os investimentos em proteção digital. O movimento também ajudou o segmento a superar preocupações anteriores relacionadas à disrupção provocada pela IA no mercado de software.

A CrowdStrike e a Palo Alto Networks, duas das principais empresas de cibersegurança, mais do que dobraram de valor no último ano.

Na quinta-feira (27), a Okta e a própria CrowdStrike registraram altas de dois dígitos depois da divulgação de resultados considerados fortes, impulsionados pelo crescimento da demanda por soluções de segurança relacionadas à IA.

O post OpenAI, Google e outras empresas pedem ação urgente contra ataques de IA apareceu primeiro em Olhar Digital.

OpenAI, Google e outras empresas pedem ação urgente contra ataques de IA Read More »