(原) 普通人的AI大模型思考:分布式AI

原创文章,请后转载,并注明出处。

GPT这一类大模型,完全靠强大的GPU算力。但并不是每个人都买得起、买得到好的显卡,即使没有米国卡脖子。
是不是可以发挥分布式的作用,聚合大量的小算力来完成大算力?
就个人而言,需要计算(使用)的时候是少数。那么发挥“人人为我,我为人人”的BT下载思想,将计算量分发给多个个人电脑,通过量的累加,就可以达到质的变化。
国家不是也在想办法解决光刻机吗?方案是反其道而行之:成立国家级光刻工厂。
之前有国家级计算项目,也是通过发动网友一起来计算的。

相关文章