O que aconteceu?
No ano passado, em julho, a OpenAI anunciou a formação de uma nova equipa de pesquisa que se prepararia para a chegada da inteligência artificial superinteligente capaz de superar e dominar os seus criadores. Ilya Sutskever, cientista-chefe da OpenAI e um dos cofundadores da empresa, foi nomeado como co-líder desta nova equipa. A OpenAI afirmou que a equipa receberia 20% do seu poder computacional.
Agora, a “equipa de superalinhamento” da OpenAI não existe mais, confirma a empresa. Isso ocorre após as saídas de vários pesquisadores envolvidos, a notícia de terça-feira de que Sutskever estava deixando a empresa e a renúncia do outro co-líder da equipe. O trabalho do grupo será absorvido nos outros esforços de pesquisa da OpenAI.
Saídas de destaque
A saída de Sutskever ganhou destaque porque, embora tenha ajudado o CEO Sam Altman a fundar a OpenAI em 2015 e direcionado a pesquisa que levou ao ChatGPT, ele também foi um dos quatro membros do conselho que demitiu Altman em novembro. Altman foi restaurado como CEO cinco dias caóticos depois, após uma revolta em massa da equipe da OpenAI e a negociação de um acordo no qual Sutskever e outros dois diretores da empresa deixaram o conselho.
Horas após o anúncio da saída de Sutskever na terça-feira, Jan Leike, ex-pesquisador do DeepMind e que era o outro co-líder da equipe de superalinhamento, postou que havia renunciado.
Outras saídas e mudanças
Dois pesquisadores da equipe, Leopold Aschenbrenner e Pavel Izmailov, foram demitidos por vazarem segredos da empresa. Outro membro da equipe, William Saunders, deixou a OpenAI em fevereiro. Além disso, mais dois pesquisadores que trabalhavam em política e governança de IA também parecem ter saído da empresa recentemente.
Dentro da OpenAI, a pesquisa sobre os riscos associados a modelos de IA mais poderosos será liderada por John Schulman, que co-lidera a equipe responsável por ajustar modelos de IA após o treinamento.
Reflexão sobre o futuro da IA
A dissolução da equipa de superalinhamento da OpenAI acrescenta mais evidências de uma reorganização dentro da empresa após a crise de governança do ano passado. A discussão sobre como manter a IA sob controle permanece relevante, e a OpenAI revelou uma nova versão do ChatGPT que poderia mais uma vez mudar a relação das pessoas com a tecnologia de forma poderosa e talvez problemática.
As recentes saídas de Sutskever e Leike vêm logo após a revelação mais recente da OpenAI – um novo modelo de IA multimodal chamado GPT-4o que permitirá ao ChatGPT ver o mundo e conversar de maneira mais natural e humanizada. Embora não haja indicação de que as saídas tenham algo a ver com os esforços da OpenAI para desenvolver uma IA mais humanizada ou lançar produtos, os avanços levantam questões éticas em torno da privacidade, manipulação emocional e riscos de cibersegurança.
A OpenAI mantém outra equipa de pesquisa chamada “Preparedness team”, que se concentra nessas questões. A empresa continua a avançar no campo da inteligência artificial, mantendo o seu compromisso com o desenvolvimento seguro e benéfico da AI para a humanidade.
Fonte: Will Knight
https://www.wired.com/story/openai-superalignment-team-disbanded/
