知道 Zipf’s law 也很重要 就有点像 Pareto principle

如果说一个体系不是这样的，entropy就有点高

为什么还有教材那么多文字 为什么要看那么长的视频

如果有漏洞 如果有不流畅 是否影响很大

大模型是好用的商品 是 ai 研究的阶段性副产品

reference or encapsulation association or computation feature extraction and resolution memory persistence

bundle and connect

Compression and association

compression to generalize the solution of this solving machine association to solve by sampling consolidation to learn by more exposure

what should I compress what should I associate

multiple copies of lossy compressions with different level of resolutions

Explanations prompt you to connect each idea back to what you already know These extra connections—called elaborations—act like multiple retrieval cues, making recall easier.

actively solving problems makes it much easier to remember you have to retrieve relevant facts or procedures from memory rather than simply re-read them. That act of retrieval strengthens the memory trace, making it easier to recall later. 还有 Space out practice 还有 emotion

少输入，来让我被动接受 多输出，让我主动的探索总结

经济学原理写的什么乱七八糟的

Since resources are limited, choices have to be made: What to produce (e.g., food, cars, technology). How to produce it (e.g., labor-intensive vs. capital-intensive). For whom to produce (e.g., distribution among people).

#种草 Amazon Kindle Colorsoft Signature Edition 读书才是第一乐趣

为什么我这么喜欢背地图

小看了 Sri Lanka

情绪大的时候 热导率比较高

如果用情绪，那就是粗糙胡搞 如果用细致，就是较真且好用

情绪既是目标 也是影响过程的因素

媳妇是世界上最宠我的人，☺️

😭 感动 😭

我无法把每件事做好 会犯错，会做的粗糙糟糕 但是我要把自己最关键的事情 最想做好的事情 不停的做下去 要去南极

make sense 其实就是让你自己推理 让你自己认可这种概率推理的合理性 对已有词汇的再次确认 re-confirm

w_i f_i -> w_j f_j 我觉得就是所有啦

大脑应该就像热扩散一样 信息来了，前面的受冲击特别严重，后面的不怎么变（长期记忆） 前面的一直在反复的变动，变动的规律就是看链接的强度 也就是词汇的 fluency

热力学统计怎么和人工智能联系这么密切

CPU - RAM - Hard Disks

如果说这些 neurons 就像是 材料学 里的分子，那他们的晶体结构是什么呢？

the properties of matter in aggregate

我思考这些，就有点像第一次被曝光 然后接下来，要反复的理解才能内化

学习从某种记忆来讲，就是记忆 但是 分辨率 高低 的词汇 很重要 分辨率越高，那么解决问题就越大 因为不同的分辨率，可以认为是不同的词汇

nature vocabulary logic vocabulary

本质上 logic vocabulary 也是 nature vocabulary 的一部分 只不过是抽象程度很高，不太好描述罢了 也是通过对世界的观察训练出来的高强度链接的词汇

人脑可以对信号，进行多层次的解析，然后留存（backpropagation）多个association 我不知道这是怎么实现的，但就是这么实现的

大脑既要学习，又要解决 又或者说，学习就是解决，解决就是学习

working memory 应该不是真的memory，而是得到copy 的量

reference association feature extraction

resolution 的随意调节

觉得 multi layer 不是正路 而是单一 layer 虽然我不知道怎么搞

也就是说，大模型是把 feature 给锁死了 固定好了 feature 空间的数量 以及 层数 而应该是随时可以生成新的 feature 以及对 object 进行 compression

1. feature 组成 一个新的 feature 2. feature trigger 另一个 feature

A = Σ weight * feature feature = Σ weight * feature

exposure means features are fired (assembled)

10000 hours 想在一个领域内成为专家，是需要时间的 尤其是，如果你出了校门，要换领域的话 那么，要有 5 年左右的时间，才能够达到一个标准

👀

恐慌，走极端，一分钱都好 崇尚跪舔权威强势者 被剥削，被忽悠，被当韭菜

Mimic the policy == Learning techniques