Pesquisador deixa Anthropic por preocupações com controle da IA
Um pesquisador da Anthropic, Jacob Coxon, decidiu deixar a empresa, expressando preocupações sobre a crescente corrida na indústria de inteligência artificial (IA) que, segundo ele, pode levar ao desenvolvimento de sistemas fora do controle humano. Com apenas 27 anos, Coxon temia que a busca por modelos de IA autossuficientes pudesse resultar em ameaças significativas para […]
Nova abordagem da OpenAI no modelo Astra gera preocupações sobre segurança da IA
A OpenAI está sob o olhar atento de especialistas em segurança após anunciar uma nova técnica de raciocínio a ser utilizada em seu próximo modelo de inteligência artificial, denominado Astra. Essa abordagem, chamada de “recorrência opaca”, promete revolucionar a forma como os modelos processam informações, mas gera inquietação quanto à dificuldade de monitoramento de suas […]