Os modelos atuais de robótica realmente destacam quão incrivelmente eficiente é o cérebro humano. Os modelos de robótica são relativamente pequenos (bilhões baixos de parâmetros), armazenam apenas um segundo de contexto e realizam passos de inferência de 100ms. Em contraste, o cérebro humano possui 100 trilhões de sinapses (aproximadamente análogas a parâmetros), processa 24 quadros por segundo, enquanto considera horas de contexto anterior. Então, como podemos esperar obter melhorias de várias ordens de magnitude na robótica em todas essas dimensões (que estão em troca umas com as outras em termos de computação de inferência) ao mesmo tempo? E como explicamos o que está acontecendo no cérebro? É mais análogo a uma vantagem de software ou a uma vantagem de hardware? Episódio completo com @svlevine disponível agora!

.@svlevine é um dos principais pesquisadores de robótica do mundo (e co-fundador da @physical_int). Ele acredita que os robôs totalmente autônomos estão muito mais próximos do que as pessoas percebem - quando o pressionei sobre uma previsão, ele disse que em 5 anos teremos robôs que podem gerenciar sua casa de forma autônoma). O grande divisor de águas, na sua opinião, é que finalmente temos LLMs com senso comum e conhecimento prévio que podemos usar como base para os modelos de robô. Discutimos todas as razões pelas quais isso pode não acontecer, o ciclo de dados a partir da implementação, arquitetura, simulação, fabricação e muito mais. Aproveite! 0:00:00 – Cronograma para robôs autônomos amplamente implantados 0:22:12 – Por que a robótica escalará mais rápido do que os carros autônomos 0:32:15 – Como funcionam os modelos de visão-linguagem-ação 0:50:26 – Melhorias necessárias para eficiência semelhante ao cérebro 1:02:48 – Aprendendo com simulação 1:14:08 – Quanto os robôs acelerarão a construção de IA? 1:22:54 – Se o hardware é o gargalo, a China vence por padrão?

Acho incrível que os modelos de robótica da @physical_int consigam funcionar, dado que têm apenas um comprimento de contexto de 1 segundo. Enquanto o robô se move por uma sala e limpa uma mesa, ele só vê o timestamp atual das imagens das câmaras (mais a descrição textual da sua tarefa). Perguntei ao @svlevine como é que este modelo consegue funcionar. Se um humano tivesse que executar um plano que durasse muitos minutos para realizar uma tarefa física, mas tivesse a memória reiniciada a cada segundo, não haveria maneira de conseguir. Mas de alguma forma, saber apenas em que estado o mundo está literalmente neste momento é tudo o que você precisa saber para manter um plano razoavelmente complicado em andamento? A resposta do Sergey menciona o Paradoxo de Morevac, e achei isso bastante interessante. Episódio completo amanhã!