A fábula inacabada dos pardais

Este texto é do início do livro “Superinteligência”, de Nick Bostrom. É uma fábula que ilustra o perigo de termos máquinas mais inteligentes do que seres humanos, num futuro a médio prazo.

Era a temporada de construção dos ninhos, e depois de dias de trabalho árduo, os pardais sentaram-se ao cair da noite relaxando e cantando. “Somos tão pequenos e fracos… Imaginem como a vida seria mais fácil se tivéssemos uma coruja que nos ajudasse a construir nossos ninhos!”.

“Sim!”, disse outro. “E poderíamos usá-la também para cuidar de nossos idosos e jovens. Ela também poderia nos dar conselhos e vigiar o gato do bairro”.

Então Pastus, o pardal mais velho, falou: “Vamos enviar patrulhas e tentar encontrar uma corujinha abandonada em algum lugar; talvez, um ovo de coruja. Esta poderia ser a melhor coisa que já nos aconteceu, pelo menos desde a abertura do depósito de grãos da cidade”. O bando ficou excitado com a ideia e começou a gorjear a plenos pulmões em aprovação.

Somente Scronkfinkle, um pardal de um olho só, com temperamento irritadiço, não estava convencido da sabedoria daquele empreendimento. Ele disse: “Isto será nossa ruína. Deveríamos aprender um pouco sobre domesticação de corujas antes de trazermos uma criatura dessas para o nosso meio.”

Pastus respondeu: “domar uma coruja dever ser coisa extremamente difícil. Já será extremamente dificíl encontrar um ovo, então vamos começar por aí. Depois que tivermos conseguido criar uma coruja, poderemos pensar em assumir esse outro desafio.”

“Há uma falha nesse plano!” gritou Scronkfinkle, mas seus protestos foram em vão – o bando já tinha levantado voo. Apenas dois ou três pardais ficaram para trás.

Juntos, começaram a tentar descobrir como corujas poderiam ser domesticadas. Logo perceberam que Pastus tinha razão – era um desafio extremamente difícil, especialmente na ausência de uma coruja de verdade para praticar. No entanto, esforçavam-se o mais que podiam temendo que o bando retornasse com um ovo de coruja antes que uma solução para aquele “problema de controle” tivesse sido encontrada.

Não se sabe como a história termina, mas o autor dedica este livro a Scronkfinkle e seus seguidores.

Veja também:

O que é GPT3 e por que isso importa? (ideiasesquecidas.com)

O inverno e a primavera da Inteligência Artificial (ideiasesquecidas.com)

https://ideiasesquecidas.com/2020/12/08/alphafold-dobramento-de-proteinas-e-origami/

Sobre o MuZero


A Deepmind é a empresa que criou o AlphaGo, a inteligência artificial que derrotou Lee Seidel, mestre do jogo Go, em 2016. É um dos marcos da evolução da IA na história, pelo Go ser ordens de grandeza mais complexo do que o xadrez.


A evolução do AlphaGo inclui o AlphaGoZero (que derrotou o anterior por 100 x 0) e o AlphaZero (este também inclui Xadrez e Shogi, e bateu o AlphaGoZero por 60 x 40).


A última evolução da família é o MuZero, capaz de aprender a jogar Go, Xadrez, Shogi (um xadrez japonês) e Atari, com desempenho top level, e sem ter as regras explicitamente ensinadas.

https://deepmind.com/blog/article/muzero-mastering-go-chess-shogi-and-atari-without-rules

Fonte: Blog do DeepMind

Seria como aprender a jogar xadrez sem ninguém ensinar. Aprender a jogar jogando, deduzindo as regras e perdendo milhares de partidas até entender as boas jogadas e desenvolver por si só a estratégia de jogo!

O DeepMind é uma empresa que dá prejuízo de uns 600 milhões de dólares por ano. Os custos incluem os computadores e o time de pesquisadores, pessoas caras, de altíssimo nível e bastante cobiçadas pela indústria.
A receita do DeepMind tende a zero, já que os projetos são em nível de pesquisa aplicada. A empresa só sobrevive por ser bancada pelo Google.


A inovação, nesse nível de liderança mundial, é assim. Bilhões de dólares investidos, muitos anos e os melhores cérebros. Além do alto risco.

Porém, são essas as empresas que constroem o futuro.


Daqui a alguns anos, estaremos utilizando ferramentas derivadas deste tipo de pesquisa aplicada. E vamos ficar pensando, “por que o Brasil não consegue chegar nesse nível?”

Veja também:

AlphaFold, dobramento de proteínas e origami (ideiasesquecidas.com)

𝗗𝗲𝗲𝗽𝗠𝗶𝗻𝗱 (ideiasesquecidas.com)

O presente é digital. O futuro será analógico.

Muito se fala do mundo digital de hoje, mas, se o presente é digital, o futuro será analógico.

Primeiro. a Computação quântica utiliza as propriedades quânticas dos átomos, como superposição e emaranhamento. Esta tem o potencial de quebrar toda a criptografia do mundo atual.

É como se eu pegasse todas as alternativas de um problema, computasse cada uma delas em paralelo e viesse apenas com a resposta correta.

Analógico x Digital (Fonte: Wikipedia)

Segundo: computação neuromórfica. Hoje em dia, temos um software digital imitando redes neurais humanas. A nova técnica procura ir direto ao ponto, criar um hardware, o memristor, que imita um neurônio biológico.

As vantagens seriam em consumo de energia e tamanho várias ordens de grandeza menores.

Todas essas pesquisas estão engatinhando, porém, o futuro é promissor.


E a terceira e melhor tecnologia analógica de todas: Cérebro humano.

Somos capazes de projetar coisas, criar as mais belas músicas, imaginar histórias, ensinar outras pessoas.

E fazer o futuro tecnológico, porém humano, acontecer.

Trilha sonora:

(98) Pink Floyd – Wish You Were Here – YouTube

AlphaFold, dobramento de proteínas e origami

O DeepMind, a mesma empresa da inteligência artificial que venceu os mestres do jogo Go, surpreende o mundo novamente.

Ela acaba de vencer o CASP – Critical Assessment of Protein Structure Prediction, uma competição para prever a estrutura de proteínas, com o seu algoritmo AlphaFold.

O CASP existe faz anos, e sempre tem um vencedor. Qual a diferença?

A diferença é que o AlphaFold foi muito superior aos demais, atingindo um nível de acurácia nunca antes visto, e rivalizando com técnicas laboratoriais (como o Raio-X) extremamente mais demoradas e caras.

O que é dobramento de proteínas?

Muito se fala do famoso DNA, a molécula em dupla-hélice que é o livro da vida. Entretanto,o DNA sozinho não faz nada. A informação contida neste, através de suas bases (A,G,C,T), tem que ser transcrita e levada ao ribossomos, onde são transformadas em proteínas.

Um conjunto de três bases forma um aminoácido. O conjunto se dobra em estruturas 3D complexas, que aí sim, tem função no organismo – um hormônio, um anticorpo, etc.

Proteínas são os blocos constituintes da vida, existentes em seres humanos, animais, plantas.

É como dobrar um origami de um cisne. O DNA é o papel desdobrado, onde somente as marcas de dobra são visíveis.

O problema é: a partir das marcas das dobras, como montar o origami completo, dadas as interações físicas e químicas entre os aminoácidos. O problema é extremamente complexo, porque a cadeia pode ter milhares de aminoácidos, e todos influenciam em todos.

O DeepMind é famoso por utilizar redes neurais profundas do começo ao fim, porém, dessa vez, a abordagem foi mista.

Utilizaram: 1- redes neurais de atenção para chegar em fragmentos candidatos; e 2 – algoritmos clássicos (Gradient Descent) para otimização global.

Também esperava-se um esforço computacional gigantesco, fosse puramente redes neurais profundas, mas a abordagem descrita utilizou apenas ~200 GPUS, algo relativamente modesto nos dias de hoje.

Obviamente, fizeram uma quantidade gigantesca de pesquisa para chegar nessas soluções, dentre as inúmeras outras arquiteturas possíveis.

Aplicações do dobramento de proteínas: entender doenças e projetar remédios.

Os métodos atuais permitem obter a estrutura de uma proteína ao cabo de um ano e com um custo de 120 mil dólares. O AlphaFold fornece o resultado em meia hora.

Ainda há um longo caminho a percorrer, para tornar o AlphaFold capaz de resolver problemas de verdade. O CASP é basicamente um jogo controlado, e o algoritmo funciona bem apenas no contexto do desafio proposto.

Mas o futuro é promissor. Na palavra de um dos pesquisadores, “o AlphaFold vai mudar tudo”.

Referências.

https://news.efinancialcareers.com/uk-en/325021/google-deepmind-pay

https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology

https://www.businessinsider.com/deepmind-google-protein-folding-ai-alphafold-technology-2020-12

https://www.kdnuggets.com/2019/07/deepmind-protein-folding-upset.html

https://visao.sapo.pt/exameinformatica/noticias-ei/ciencia-ei/2020-12-02-inteligencia-artificial-da-deepmind-faz-descoberta-cientifica-revolucionaria/

Sonhe como uma máquina

Continuando a descrição de marcos da Inteligência Artificial, em 2015 o mundo conheceu o DeepDream, publicado pelo Google.

Uma foto antiga minha no algoritmo

São imagens psicodélicas geradas por uma rede neural, como se fossem sonhos. Não à toa, o algoritmo original foi batizado “Inception” (viu o filme?).

De forma mais generalizada, o método utilizado é o de Transfer Style.

Uma rede neural convencional é capaz de classificar imagens, como detectar cachorros em fotos. Modificamos essa rede que com outra métrica, para classificar o quão similar o padrão de uma parte da tela é em relação a outra. É bem complicado definir o que é padrão e o que é imagem, mas imagine que as pinceladas fortes de Van Gogh são um padrão.

Desse modo, a rede “aprende” a desenhar como Van Gogh ou outro artista.

Colocar uma foto normal na entrada, e voilá, temos uma foto estilizada.

Há alguns sites que permitem experimentos.

https://deepdreamgenerator.com/ ou https://dreamscopeapp.com

É difícil chegar a bons resultados.

Trilha sonora: Sweet Dreams – Eurythmics

Arnaldo Gunzi.

Ideias técnicas com uma pitada de filosofia

https://ideiasesquecidas.com/

𝗗𝗲𝗲𝗽𝗠𝗶𝗻𝗱

Quando se fala de Inteligência Artificial, vale a pena ficar de olho na empresa britânica DeepMind.

Ela alcançou notoriedade ao desenvolver o AlphaGo, programa computacional que derrotou o campeão mundial do jogo Go, em 2016. O Go é uma espécie de xadrez chinês, porém, bastante mais complexo.

A DeepMind foi adquirida pelo Google em 2014.

Atualmente, ela atua em identificação de doenças oculares, economia de energia nos servidores do Google, e a difícil área de dobramento de proteínas, entre outros.

Documentário AlphaGo x Lee Sedol

Site da empresa:

https://deepmind.com

O que é GPT3 e por que isso importa?

O GPT3, lançado recentemente pela empresa OpenAI, é um marco na história da Inteligência Artificial. É o modelo de linguagem natural mais poderoso já criado: ele é capaz de produzir texto sobre um tema qualquer, escrever códigos simples, música. 

O GPT3 tem 175 bilhões de parâmetros! O seu predecessor, GPT2, que já era impressionante, tinha 1,5 bilhão de parâmetros.

É um nível de hardware e software inatingível para empresas comuns. Só para fazer o treinamento desta rede, a OpenAI gastou cerca de 5 milhões de dólares! 

Não sei se serve como referência, mas a maior rede que já treinei no meu melhor computador, com GPU, tinha umas 15 camadas e uns 100 mil parâmetros, e deu um trabalho gigante – foram semanas de experimentação de hiperparâmetros e variantes de arquitetura.

O GPT3 ainda comete pequenos erros, como frases ininteligíveis, sem contexto, ou seja, ainda está muito atrás do cérebro humano.

O cérebro tem 100 bilhões de neurônios, o que dá uns 100 trilhões de parâmetros. Ainda impera com facilidade e gasta pouquíssima energia (é alimentado com arroz e feijão).

Contudo, o GPT3 mostra que a IA está crescendo em ordens de grandeza galopantes, e já dá para ver a mesma chegando, no cantinho do retrovisor!

Veja também:

https://ideiasesquecidas.com/2020/07/13/o-inverno-e-a-primavera-da-inteligencia-artificial/

https://super.abril.com.br/saude/cerebro-humano/#:~:text=Cem%20trilh%C3%B5es%20de%20conex%C3%B5es%20celulares,do%20Universo%3A%20o%20c%C3%A9rebro%20humano.