刚睡到11点半起床,看到个推Driven by Compression Progress: A Simple Principle Explains Essential Aspects of Subjective Beauty, Novelty, Surprise, Interestingness, Attention, Curiosity, Creativity, Art, Science, Music, Jokes压缩过程驱动:简单道理解释 美、新颖、意外,趣味、关注、好奇、创意,艺术、科学、音乐和笑话 的基本面https://arxiv.org/abs/0812.4360这个副标题听上去就很带劲儿,这么大文科味儿的东西怎么就能被「压缩」给解释了,那么多主观的东西,就这?正如Musk 说的:Schmidhuber invented everything 尤根早就发明了当前AI的everything!Juergen Schmidhuber 是 LSTM 的发明人。LSTM 是一种AI技术能长时间理解上下文,能处理复杂时间序列,解决了早期 RNN “记忆很快消失”的根本问题,这才让“听懂一句完整的话”成为可能。而且他做出这个研究是在 1997 年!于是赶紧拜读一下这篇大作。它这个说法,大框架来说有4个要点:Store everything。人脑通过感知记住这个世界。客观的说把所有细节
...
继续阅读
(6)