Os líderes de IA da Meta querem que você saiba que os medos sobre o risco existencial da IA são “ridículos”
MIT Technology Review
É um momento muito estranho na IA. Em apenas seis meses, o discurso público em torno da tecnologia passou de “Chatbots geram favelas marinhas engraçadas” para “sistemas de IA podem causar extinção humana”. Quem mais está sentindo um chicote?
Meu colega Will Douglas Heaven perguntou aos especialistas em IA por que exatamente as pessoas estão falando sobre risco existencial e por que agora. Meredith Whittaker, presidente da Signal Foundation (que está por trás do aplicativo de mensagens privadas Signal) e ex-pesquisadora do Google, resume muito bem: “Histórias de fantasmas são contagiosas. É realmente emocionante e estimulante ter medo.”
Já estivemos aqui antes, é claro: a desgraça da IA segue o hype da IA. Mas desta vez parece diferente. A janela de Overton mudou nas discussões sobre riscos e políticas de IA. O que antes era uma visão extrema agora é um ponto de discussão convencional, a conquistando não apenas as manchetes, mas a atenção dos líderes mundiais.
Artigos relacionados:
Whittaker não é o único que pensa isso. Enquanto pessoas influentes em grandes empresas de tecnologia, como Google e Microsoft, e startups de IA como a OpenAI, tenham se esforçado para alertar as pessoas sobreriscos extremosdeIAefecharseus modelos de IA do escrutínio público, a Meta está indo para o outro lado.
Na semana passada, em um dos dias mais quentes do ano até agora, fui à sede da Meta em Paris para ouvir sobre o recente trabalho de IA da empresa. Enquanto begávamos champanhe em um telhado com vista para a Torre Eiffel, o cientista-chefe de IA da Meta, Yann LeCun, vencedor do Prêmio Turing, nos contou sobre seus hobbies, que incluem a construção deinstrumentos eletrônicos de sopro. Mas ele estava realmente lá para falar sobre por que ele acha que a ideia de que um sistema de IA superinteligente assumirá o mundo é “postersamente ridícula”.
As pessoas estão preocupadas com os sistemas de IA que “seão capazes de recrutar todos os recursos do mundo para transformar o universo em clipes de papel”, disse LeCun. “Isso é simplesmente insano.” (Ele estava se referindo ao “problema do maximizador do clipe de papel”,um experimento mentalem que uma IA pediu para fazer o maior número possível de clipes de papel o faz de maneiras que, em última análise, prejudicam os seres humanos, enquanto ainda cumpre seu objetivo principal.)
Ele está em forte oposição aGeoffrey Hintone Yoshua Bengio, dois pesquisadores pioneiros de IA (e os outros dois “padrinhos da IA”), que compartilharam o prêmio Turing com LeCun. Ambos recentemente se tornaram francos sobre o risco existencial de IA.
Joelle Pineau, vice-presidente de pesquisa de IA da Meta, concorda com LeCun. Ela chama a conversa de “desequilibrada”. O foco extremo nos riscos futuros não deixa muita largura de banda para falar sobre os danos atuais da IA, diz ela.
História Relacionada
Como falar sobre IA (mesmo que você não saiba muito sobre IA)
Além disso: Pegando conteúdo ruim na era da IA.
“Quando você começa a procurar maneiras de ter uma discussão racional sobre risco, você geralmente olha para a probabilidade de um resultado e a multiplica pelo custo desse resultado. [A multidão de risco existencial] essencialmente colocou um custo infinito nesse resultado”, diz Pineau.
“Quando você coloca um custo infinito, você não pode ter nenhuma discussão racional sobre quaisquer outros resultados. E isso tira o oxigênio da sala para qualquer outra discussão, o que eu acho muito ruim.”
Embora falar sobre risco existencial seja um sinal de que as pessoas de tecnologia estão cientes dos riscos da IA, os doomers de tecnologia têm um motivo oculto maior,dizem LeCun e Pineau: influenciar as leis que regem a tecnologia.
“No momento, a OpenAI está em uma posição em que eles estão à frente, então a coisa certa a fazer é bater a porta atrás de você”, diz LeCun. “Queremos um futuro em que os sistemas de IA sejam essencialmente transparentes em seu funcionamento ou sejam … proprietários e de propriedade de um pequeno número de empresas de tecnologia na Costa Oeste dos EUA?”
O que ficou claro nas minhas conversas com Pineau e LeCun foi que a Meta, que tem sido mais lenta do que os concorrentes para lançar modelos de ponta e IA generativa em produtos, estáapostando em suaabordagemde código abertopara dar a ela uma vantagem em um mercado de IA cada vez mais competitivo. A Meta é, por exemplo,o open-sourcing seu primeiro modelode acordo com avisãoda LeCunde como construir sistemas de IA com inteligência de nível humano.
https://buy.tinypass.com/checkout/template/cacheableShow?aid=WUOCNSUgpu&templateId=OT1UKGGYDABG&templateVariantId=OTV0UIYE3N6OR&offerId=fakeOfferId&experienceId=EXGEI687Y0O9&iframeId=offer_1dc8ede44881317c6d78-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fauth.technologyreview.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.technologyreview.com A tecnologia de sourcing aberto estabelece um alto nível, pois permite que pessoas de fora encontrem falhas e responsabilizem as empresas, diz Pineau. Mas também ajuda as tecnologias da Meta a se tornarem parte mais integrante da infraestrutura da internet.
“Quando você realmente compartilha sua tecnologia, você tem a capacidade de conduzir a maneira pela qual a tecnologia será feita”, diz ela.
Aprendizagem mais profunda
Cinco grandes conclusões da Lei de IA da Europa
É hora da Lei de IA. Na semana passada, o Parlamento Europeu votou para aprovar seu projeto de regras.Minha colega Tate Ryan-Mosleytem cinco conclusõesda proposta.O parlamento gostaria que a Lei de IA incluísse uma proibição total de biometria em tempo real e policiamento preditivo em espaços públicos, obrigações de transparência para grandes modelos de IA e uma proibição de raspagem de material protegido por direitos autorais. Também classifica os algoritmos de recomendação como IA de “alto risco” que requer uma regulamentação mais rigorosa.
O que acontece a seguir?Isso não significa que a UE vai adotar essas políticas diretamente. Em seguida, os membros do Parlamento Europeu terão que discutir detalhes com o Conselho da União Europeia e o braço executivo da UE, a Comissão Europeia, antes que o projeto de regras se torne lei. A legislação final será um compromisso entre três rascunhos diferentes das três instituições. Os legisladores europeus pretendem colocar a Lei de IA em forma final até dezembro, e o regulamento deve estar em vigor até 2026.
Você pode ler meu artigo anterior sobre a Lei de IAaqui.
Bits e Bytes
Uma briga pelo reconhecimento facial fará ou quebrará a Lei da IA
Proibir o uso de software de reconhecimento facial em locais públicos será a maior luta nas negociações finais para a Lei de IA. Os membros do Parlamento Europeu querem uma proibição completa da tecnologia, enquanto os países da UE querem a liberdade de usá-la no policiamento. (Politico)
Pesquisadores de IA assinam uma carta pedindo foco nos danos atuais da IA
Outracarta aberta! Este vem de pesquisadores de IA na conferência ACM sobre Equidade, Responsabilidade e Transparência (FAccT), pedindo aos formuladores de políticas que usem as ferramentas existentes para “projetar, auditar ou resistir aos sistemas de IA para proteger a democracia, a justiça social e os direitos humanos”. Os signatários incluem Alondra Nelson e Suresh Venkatasubramanian, que escreveu aDeclaração de Direitos da IAda Casa Branca.
O Reino Unido quer ser um centro global de regulação de IA
O primeiro-ministro do Reino Unido, Rishi Sunak, apresentou seu país como o lar global da regulamentação da inteligência artificial. A esperança de Sunak é que o Reino Unido possa oferecer um “terceiro caminho” entre a Lei de IA da UE e o Velho Oeste dos EUA. A Sunak está sediando uma cúpula de regulamentação de IA em Londres no outono. Eu sou cético. O Reino Unido pode tentar, mas, em última análise, suas empresas de IA serão forçadas a cumprir a Lei de IA da UE se quiserem fazer negócios no influente bloco comercial. (Tempo)
O YouTube poderia dar ao Google uma vantagem na IA
O Google tem usado o rico repositório de vídeos de seu site de vídeo YouTube para treinar seu próximo modelo de grande idioma. Este material pode ajudar o Google a treinar um modelo que pode gerar não apenas texto, mas também áudio e vídeo. Aparentemente, isso não está perdido no OpenAI, que tem usado secretamente dados do YouTube para treinar seus modelos de IA. (A Informação)
Uma startup de IA de quatro semanas arrecadou €105 milhões
Fale sobre o hype da IA. A Mistral, uma nova startup francesa de IA sem produtos e quase funcionários, conseguiu arrecadar €105 milhões na maior rodada de sementes da Europa. Os fundadores da empresa trabalharam anteriormente na DeepMind e Meta. Dois deles estavam por trás da equipe que desenvolveu o modelo de linguagem Llama de código aberto da Meta. (Financial Times)
esconder