Weekly通讯-第四期:偏见、投资人的傲慢与不要人格化组织

50

一、大模型的偏见—人类互联网的偏见

大模型的所谓“观点”和“意识”是如何形成的?

大模型的基础是Transformer架构的神经网络,本质上是在庞大的数据集上进行训练,学习语言的统计规律和模式,实际上是“人类社会的共识与偏见在数字空间的映射”。当被提问或给予某个任务时,它会基于训练过程中学到的知识和模式,通过算法生成最有可能符合语言规则和上下文逻辑的响应。这种响应看似表达了某种“观点”,实则是模型根据输入信息重组已学习到的语言片段,以高度相关性和连贯性的方式输出结果。它所做的是对输入数据统计概率的反馈,而非什么狗屁自媒体营销号所说的自我意识、情感与世界模型巴拉巴拉。

既然大模型是“人类社会的共识与偏见在数字空间的映射”,那么大模型输出的内容很大程度上就是人类的意识形态、人类这个族群的观点,只不过我们用后天对齐的手段将那些不符合监管要求和主流价值观的“输出”给抹去了而已。

认识到这一点后,提高数据集的包容性成为了改进大模型输出质量的首要步骤。这意味着在构建训练数据集时,需要有意识地纳入多元化的视角、文化和背景信息,确保各种声音都能得到充分代表。这不仅仅是为了政治正确,更是为了提升模型的理解广度和适应能力,使其能够更加公平、准确地服务于全球用户。 ——By 通义千问

但是,如果你的数据集已经尽可能具有包容性——比如说,囊括了几乎所有书面语言,几千亿个词汇——而这个世界本身就有偏见,你该怎么做?大多数的、被纳入数据集的互联网内容,实际上很大程度上都是白人创造的,即使我们都把他们想象成白莲花,但无形的、天然地偏见是无法从数据集中消除的(例如黑人、女性等内容占比一定会更小)。

我不知道,只能凑合着用吧,反正对我来讲好像所谓的平等与风险也不是那么的急迫,让通义千问更好的念经才是我最大的需求 : D

“即我们也许能够以这样的语言模型为基础构建我们的系统,这些模型不仅捕捉到了现实世界,也是更美好世界的模型,一个我们想要的世界的模型。”对齐的目的不仅仅是遵循我们现在的价值观,还应当导向那个“我们想要的”世界。

“不难想象,用这个方法不仅可以回顾过去,还能展望未来:比如说,根据过去6个月的数据,某种偏见是变好还是变糟了?甚至可以想象用某种实时仪表板来展示社会本身——或者至少是公共话语——的偏见是在增加还是减少,作为正在发生的转变的风向标,以及对未来世界的一瞥。”

我很期待大模型加持下的社会舆论分析工具,或许可以给我们提供一个新的研究视角


二、投资人的傲慢

我之前的思维方式偏向于寻找“漏洞”和坐忘道,会去下意识的论证项目的可行性与盈利性。在面对被投标的时,我不太相信他们对于“未来”的设想,而是更倾向于“现实”的考量。

如果我是风控官,或者是所谓的以色列的“第十人”类似的角色,那么这样想当然是合理的;但假如我是一位VC投资人,这样无疑是一种傲慢——我自以为看透了别人在干什么,看透了他们的商业模式与逻辑,不再相信未来与增量。这种思维很现实,但同时也会限制我未来的发展上限,还是要对被投标的存有敬畏之心。

厌恶风险就会没有办法进步,投资的本质就是与不确定性,与未来共舞。投资人应当与被投标的建立基于相互尊重和开放沟通的关系,理解创业者的愿景并相信他们的执行能力,同时提供自己的行业洞察和资源支持,这样的合作关系往往能激发出超越预期的价值。

风控官是“批判者”,而投资人是“建设者”,应当将寻找“漏洞”的能力转变为帮助创业者加固其商业模型的砖石,在指出潜在问题的同时提出建设性意见,帮助项目更好地适应市场、规避风险,共同探索成长的可能路径。

三、不要人格化一个群体/组织

“骂政府总有人叫好,政府监管与金融创新百年来一直在博弈,反复螺旋上升构建了现代金融史。站一边骂一边把一切矛盾看成阶级斗争固然卖座,可也在脱离现实,浮皮潦草的思考,如作者的论点。任何一个实体、公司、部门甚至个体都有做大做强的潜能与愿望,组织越大利益越难以协调,部门之间个人与个人会有利益冲突是常理,难道这是各国政府尊崇凯恩斯学派的原因?政府官员是既得利益者所以凯恩斯学派大行其道?思维漏洞百出,简单归因忽略现实博弈制衡关系。答者上来就假定政府目标不可协调,直接得出个人利益大于政府大目标的结论。按作者逻辑,难道所有政府职员都是凯恩斯学派?立法与部门之间毫无分权与制衡,大家制定政策以渔私利?1930年代经济大萧条时期自由市场学派大行其道,崩溃后不得已才转向监管,一战后和会政治秩序重建凯恩斯便写书预言秩序即将崩溃,二战后终于遵从凯恩斯的构想重建秩序,换来了近80年和平发展,08年危机金融衍生品的自由创新导致了世界级的经济危机。这些事实资料唾手可得。凯恩斯主义当然不完美充满缺陷,张嘴就喷当然简单,然后呢?出题者问凯恩斯学派实证有缺陷,为什么政府政策偏保守,愿意偏向凯恩斯学派,与其摆事实列数据逻辑推演与解答,答者上来就站队,假定凯恩斯主义完全失败了,政府一帮猪只吃饭不干活,好像他比老百姓知道更多政府内幕秘密一样,那他连自由学派站队都配不上,只是个没常识经济学学歪了的喷子,给的答案本来就不新颖,论证又东拼西凑偷换概念,答者只是换了一个角度人格化政府”

切忌习惯性的把复杂问题简单化,将群体组织一体化、拟人化固然符合直觉和易于接受,但这样会忽视大量的且极为重要的细节。每个群体或组织都是由众多具有不同思想、背景、需求及动机的个体组成的庞大系统,更科学的思路应当是研究个体行为如何汇聚成集体行动,不同利益诉求如何交织影响决策过程,以及外部环境变化如何被系统内部感知并作出响应。

言论

  • “投资具备不确定性,所以反而基本面分析和逻辑分析更有用,建模分析只是工具之一,而且是比较垃圾的工具。”
  • “无人问津也好 技不如人也罢 你都要试着安静下来 去做自己该做的事 而不是让内心的烦躁 焦虑 毁掉你本就不多的热情和定力。”
  • “知乎中,提问对议事的导向性远强于回答。以小见大可以看到舆论与政治中,设置议题、编辑议题的重要性。”
  • “提炼输出观点第一位的好处是磨砺自己,而不是说服对面。年轻时候我觉得要说服对面,大了一点我只想气死对面,现在我认为保持一个稳定的思维方式是对自己负责。其二是公共平台发言,第三方看了自然有个高下定论。其三,不少时候摆事实讲道理真能说服对面,有时候对面达成共识,有时候碍于面子不想承认,有时候自己删了评论私信道歉,我都遇见过。能坚持走正道,如果就是年轻人了,一如既往,这种朝气和理想主义我不觉得有什么不好的。”