一原創(chuàng)文章第258篇，專注“個人成長與財富自由、世界運作的邏輯與投資"。
周末，說說大模型。
前幾天，我的熱情很大一部分在類似kensho的技術(shù)上。kensho是金融界的siri，它可以回答“朝鮮試射導(dǎo)彈，美股哪支軍工股會上漲”這樣的問題。它還可以推導(dǎo)地緣政治，國際油價變化引發(fā)的連鎖反應(yīng)等。
我覺得這個特別酷，但自己嘗試去做時，發(fā)現(xiàn)特別難。
要理解中文，分詞這一關(guān)基本就過不去。再到后面的詞性標(biāo)注，命名實體識別，三元組抽取，知識圖譜等，每一個環(huán)節(jié)的損失都非常高。
直到大模型橫空出世。
端對端的訓(xùn)練，豐富的世界知識，對語義的理解力，可控的文本生成能力。自然而然，垂直領(lǐng)域而言，金融大模型我相信很多人都想到這個機會。
FinGPT，之前他們團隊做強化學(xué)習(xí)。FinRL到后來Fin-Meta，F(xiàn)inNLP，挺有情懷的一個團隊。
輕量級適應(yīng)在金融領(lǐng)域非常有利。FinGPT可以快速微調(diào)以與新數(shù)據(jù)保持一致，而不是隨著金融環(huán)境的每一次重大變化從頭開始重新訓(xùn)練模型，這是一個昂貴而耗時的過程（適應(yīng)成本大幅下降，估計每次訓(xùn)練不到300美元）。對標(biāo)BloombergGPT太過昂貴。
允許使用自動數(shù)據(jù)管理管道進行及時更新（每月或每周更新）。但是，BloombergGPT擁有特權(quán)數(shù)據(jù)訪問和API。FinGPT提供了一個更容易獲得的替代方案。它優(yōu)先考慮輕量級適應(yīng)，利用一些最好的開源LLM的優(yōu)勢，然后將財務(wù)數(shù)據(jù)輸入這些LLM并為財務(wù)語言建模進行微調(diào)。
從數(shù)據(jù)源，到數(shù)據(jù)處理，到通過大模型的LLM APIs能力，可訓(xùn)練的模型，還有一部分微調(diào)。
第一部分是數(shù)據(jù)源，在這里，我們從互聯(lián)網(wǎng)上收集歷史和流媒體數(shù)據(jù)。
第二部分是數(shù)據(jù)工程，在這里我們會對數(shù)據(jù)進行清洗，標(biāo)記化處理和提示工程。
第三部分是大語言模型（LLMs）。在這里，我們可以以不同的方式使用LLMs。我們不僅可以使用收集到的數(shù)據(jù)來訓(xùn)練我們自己的輕量級微調(diào)模型，還可以使用這些數(shù)據(jù)和訓(xùn)練好的模型或LLM API來支持我們的應(yīng)用程序。
最后一部分是應(yīng)用程序部分，我們可以使用數(shù)據(jù)和LLMs來制作許多有趣的應(yīng)用程序
關(guān)于人生感悟和體驗
這些年，一些事。
有一些比較神奇卻普遍。一些事情是單向不可逆的，比如一線城市畢業(yè)時候的戶口，錯過就是一生。
我們畢業(yè)那會，高新技術(shù)企業(yè)是很容易獲得這個一線城市戶口的，當(dāng)年沒概念，也沒有長輩和師長告訴過我們。然后，錯過，數(shù)年后回來，發(fā)現(xiàn)，這個城市多數(shù)事情與你無關(guān)，飛漲的房價與五年社保綁定著。
好多朋友，同事在結(jié)婚生子后，在孩子教育上遇到的問題更加突顯。孩子進入初中，他們不得不考慮隨孩子到某一方的老家去定居，隨之要考慮的，還有雙方的工作變動以及未來全家的規(guī)劃與人生安排。
——這些起點，都在于當(dāng)年那一個不可逆的選擇。
當(dāng)然婚姻是為數(shù)不多的，可以“彌補”的機會。很多人沒想明白，錯過后終將引入太多的麻煩。
還有一些小事，值得注意。很多年輕人離開老家，在一線城市筑夢。如果你“一不小心”在老家辦了張手機卡，如果你想注銷，可能需要自己親自跑一趟，如果家在小鎮(zhèn)，可以還是去城里才有解決方案。——開號30秒，銷號可不輕松。
互聯(lián)網(wǎng)如此昌明的時代，很多事情已經(jīng)極盡便利，比如可以跨省辦護照，補身份證之類的。但總有一些時代印記的東西，在提醒我們，一些事情要慎重。
“有驚而無險”，卻可以讓我們實實在在學(xué)到東西。
所謂“歲月靜好”，最好的狀態(tài)是“財富自由”。
而且最好不是靠網(wǎng)紅、流量走紅的自由。
國民老公不必在乎網(wǎng)友的評論，因為人家不靠流量賺錢；網(wǎng)紅明星不一樣，需要承擔(dān)很高的道德成本。
那天與朋友聊天，前字節(jié)程序員郭宇才是普通人自由的樣板。
——通過互聯(lián)網(wǎng)公司股權(quán)、投資而財富自由。
然后做自己喜歡的事情。
聯(lián)系客服
