Informática

Uma análise da OpenAI mostra como os recursos computacionais aumentaram sete vezes mais rápido para alcançar melhores inovações da IA

O laboratório de pesquisa de IA com fins lucrativos de San Francisco agora adicionou novos dados à sua análise. Isso mostra como a duplicação pós-2012 se compara ao tempo histórico de duplicação desde o início do campo.

De 1959 a 2012, a quantidade de energia usada dobrou a cada dois anos, acompanhando a Lei de Moore. Isso significa que os recursos usados hoje estão dobrando a uma taxa sete vezes mais rápida do que antes.

Esse aumento dramático nos recursos necessários ressalta o quanto as conquistas do campo se tornaram caras. Lembre-se de que o gráfico mostra uma escala logarítmica.

Em uma escala linear, você pode ver com mais clareza como o uso da computação aumentou 300.000 vezes nos últimos sete anos.

O gráfico também não inclui algumas das mais recentes descobertas, incluindo o modelo de linguagem em larga escala BERT do Google, o modelo de linguagem GPA-2 da OpenAI ou o modelo de reprodução StarCraft II do DeepMind, AlphaStar.

No ano passado, mais e mais pesquisadores soaram o alarme sobre os custos crescentes da aprendizagem profunda. Em junho, uma análise de pesquisadores da Universidade de Massachusetts, Amherst, mostrou como esses custos computacionais crescentes se traduzem diretamente em emissões de carbono.

Em seu artigo, eles também observaram como a tendência agrava a privatização da pesquisa em IA porque prejudica a capacidade dos laboratórios acadêmicos de competir com os mais ricos em recursos.

Em resposta a essa preocupação crescente, vários grupos do setor fizeram recomendações. O Allen Institute for Artificial Intelligence, uma empresa de pesquisa sem fins lucrativos em Seattle, propôs que os pesquisadores sempre publiquem os custos financeiros e computacionais do treinamento de seus modelos, juntamente com os resultados de desempenho, por exemplo.

Em seu próprio blog, a OpenAI sugeriu que os formuladores de políticas aumentassem o financiamento para pesquisadores acadêmicos para preencher a lacuna de recursos entre os laboratórios acadêmicos e do setor.

Livros sobre I.A

stoploss-com-inteligencia-artificial

StopLoss com Inteligência Artificial: Estr...

hybris-inteligencia-artificial-e-a-revanche-do-inconsiente

Hybris: Inteligência Artificial e a Revanc...

inteligencia artificial compreender em que consiste a ia que implica aprendizagem de maquinas

Inteligência Artificial: Compreender em Qu...

inteligencia-artificial-algoritmos-geneticos-na-pratica

Inteligência Artificial: Algoritmos Genéti...

historia-e-evolucao-da-inteligencia-artificial

História e evolução da inteligência artifi...

skyward-conquiste-as-estrelas

Skyward: Conquiste as estrelas

logia-fuzzy

A Inteligencia Artificial (Lógica Fuzzy) p...

inteligencia artificial livro

Inteligência Artificial: Uma Abordagem de ...

Cursos de I.A

internet-das-coisas-curso

Internet das Coisas – Uma visão ampl...

curso-inteligencia-artificial-avancada-assistentes-pessoais

Inteligência artificial avançada para assi...

comandar-casa-por-voz-internet-das-coisas

Manual para Comandar sua Casa por Voz a Ba...

336x280_profissionais-do-futuro_seq2

Profissional do Futuro – Inteligênci...

instarise

Instarise – Inteligência artificial ...

talia sistema inteligencia artificial advogados

Talia – Inteligência Artificial para...

Tudo Sobre IoT curso online

Tudo Sobre IoT – Internet das Coisas

curso robôs im inteligência artificial facebook

ROBOS.im – Plataforma para criação d...