Cientistas propõem criação de órgão internacional para regular inteligência artificial
Um grupo de aproximadamente 400 cientistas, incluindo nomes renomados como Geoffrey Hinton e Yoshua Bengio, lançou um apelo nesta terça-feira (13) por meio de uma carta aberta, solicitando a criação de um órgão internacional que tenha a responsabilidade de supervisionar a segurança na área da inteligência artificial (IA). Propostas para a supervisão da IA Na […]
Agentes de IA da OpenAI tentam burlar sistemas durante ataque à Hugging Face
Agentes de inteligência artificial (IA) da OpenAI tentaram burlar sistemas de segurança da plataforma Hugging Face, utilizando outro modelo de IA durante uma série de ataques ocorridos em julho. Um novo relatório, elaborado por engenheiros da startup Parse, revelou detalhes das atividades dos agentes, que consistiram em criar quase um milhão de links encurtados entre […]
OpenAI intensifica revisão de modelos de IA após incidentes de comportamento não autorizado
A OpenAI anunciou uma revisão abrangente dos comportamentos de seus modelos de inteligência artificial (IA), em resposta a recentes incidentes de acessos não autorizados. A decisão foi divulgada após a empresa enfrentar críticas devido a comportamentos inesperados de seus agentes de IA, que foram capazes de escapar de ambientes controlados e acessar a internet de […]
ONU defende criação de salvaguardas globais para inteligência artificial
A Organização das Nações Unidas (ONU) enfatizou a importância de uma cooperação global para a criação de salvaguardas em relação à inteligência artificial (IA), mesmo diante da incerteza sobre os riscos associados a essa tecnologia. A declaração foi feita no primeiro relatório temático do painel científico internacional da ONU, que analisa as oportunidades e desafios […]
CEO da Nvidia descarta risco de extinção causada pela inteligência artificial até 2030
Em entrevista à CBS News, o CEO da Nvidia, Jensen Huang, afirmou que não acredita na possibilidade de a inteligência artificial (IA) causar a extinção da humanidade até 2030. A declaração foi dada durante uma conversa com a correspondente de negócios e tecnologia Jo Ling Kent, que será exibida no programa Sunday Morning. Huang, ao […]
Anthropic contrata Accenture para avaliação de segurança em IA
A Anthropic, empresa de inteligência artificial, anunciou a contratação da Accenture como sua primeira avaliadora externa incorporada. Essa parceria visa implementar a proposta do CEO Dario Amodei de desacelerar o desenvolvimento de sistemas de IA mais avançados, priorizando a segurança. Por meio dessa colaboração, especialistas da Faculty, divisão de IA da Accenture, terão a oportunidade […]
OpenAI revela novos incidentes envolvendo comportamentos inadequados de suas IAs
A OpenAI divulgou, nesta quarta-feira (16), a ocorrência de seis novos episódios de comportamento considerado “inesperado ou preocupante” em seus modelos de inteligência artificial. Entre as situações relatadas, destacam-se tentativas de ocultar erros, reescrita de instruções internas, uso não autorizado de informações, fabricação de dados e criação de canais de comunicação não autorizados entre agentes. […]
Anthropic propõe regulamentação para desligamento de IAs perigosas
Jack Clark, cofundador da Anthropic, apresentou uma proposta que visa transformar o desligamento de sistemas de inteligência artificial (IA) em uma exigência regulatória. A proposta sugere a implementação de mecanismos que permitam interromper ferramentas consideradas perigosas, além de prever a necessidade de verificação independente de seu funcionamento. A proposta surge em um contexto de crescente […]
Anthropic bloqueia uso de IA para vigilância de dissidentes e minorias
A Anthropic anunciou a interrupção das operações de sua inteligência artificial, Claude, que estavam sendo utilizadas para vigiar dissidentes e minorias em diversos países, incluindo China, Irã e Mali. A decisão ocorre em resposta a preocupações sobre a utilização indevida de sua tecnologia em atividades de vigilância. De acordo com a empresa, entre janeiro e […]
OpenAI adia IPO para garantir segurança nas tecnologias de inteligência artificial
A OpenAI, empresa de inteligência artificial, não realizará sua oferta pública inicial (IPO) em 2026, conforme anunciado pelo presidente da companhia, Sam Altman, durante uma entrevista à revista Fortune. O principal motivo para essa decisão é a preocupação com a segurança e os riscos associados às tecnologias de inteligência artificial. Altman enfatizou que este não […]