通用大模型，聚焦基礎層，以技術攻關為目的。他們對標ChatGPT做通用大模型，百度的文心一言，阿里的通義千問、科大訊飛的星火大模型等都歸屬這一類。
垂直大模型，聚焦解決垂直領域問題，以產品開發為目的。他們在通用大模型基礎上訓練行業專用模型，應用到金融、醫療、教育、養老、交通等垂直行業。
垂直大模型以此為切入點，選擇了另一條路徑。他們以具備的行業知識為基礎，通過與通用大模型企業合作的方式，訓練行業專用模型。
“站在客戶角度，行業客戶最為看重的是定制化的需求，以及AI企業的工程化落地能力。”眾數信科CEO吳炳坤對雷峰網(公眾號：雷峰網)說。
作為垂直大模型的一員，眾數信科成立于2021年初，由云從科技、廈門火炬創投、民生電商發起成立。
眾數信科定位AIGC領域的“知識智能化”，即將數字城市領域沉淀的行業數據、專家經驗，通過AI 技術進行工程化。
吳炳坤將AI比作工業時代的石油鉆機：“沒有鉆井機，石油就無法成為工業時代的黑色血液；數據要素時代，沒有AI，數據的價值也就得不到充分挖掘。現在大模型帶來了無限的想象和發展機會。”
兩年前，在數字城市領域，AI更多基于小模型，比如算法只做人臉識別，或只做車牌識別，產品受限很大，研發成本很高，可以擴展的空間不多。
現在，隨著 AI 大模型這一關鍵技術的突破，數據和AI的結合度更加緊密，上述問題都得以突破。
大模型將對全行業都產生顛覆性地重構，已經是業界共識。百度李彥宏、阿里張勇等不少業界大佬都在不同場合，不斷重復同樣一句話：AI 大模型時代，每個行業的應用都值得重新做一遍。
阿里巴巴張勇曾指出，超萬億參數的大模型研發是一場“AI+云計算”的全方位競爭，囊括了算法、底層龐大算力、網絡、大數據、機器學習等諸多領域，是一項復雜的系統性工程。
一方面，通用大模型需要大量有效的數據與計算資源，這離不開超大規模的AI基礎設施的支撐；另一方面，長時間的訓練、推理背后，也往往意味著高昂的成本。
正因此，當下大模型市場的主角大都是來自于移動互聯網時代的大巨頭，如百度“文心一言”、阿里“通義千問”、騰訊“混元”等。
大公司們瞄準廣泛適用的人群，齊齊布局 NLP、CV、跨模態等多種模型，動用同樣海量的數據參數進行預訓練，動作整齊劃一。
這種“你有，我也有”既是實力的展現，同時也存在同質化問題，會逐漸消弭彼此之間的辨識度，難以在市場中發揮優勢。
并且，大模型“海納百川”的魅力縱然令人著迷，但其終歸是一項技術，技術只有與具體應用結合變成產品，帶來實際的使用體驗和轉化成效，才真正具有價值。
行業客戶使用大模型的最終目的，是讓業務發展走上新的臺階。因而，他們需要的不是綜合技術上的碾壓，而是能在具體需求上追求極致，可以實現功能最大化的產品。
他們受限于資金和技術，難以走上通用大模型的角斗場，但由于本身具備一定的行業領域知識，反而在垂直大模型的探索上具備天然優勢。
在人工智能時代的浪潮中，聚焦少數細分賽道，在通用大模型的底座能力之上，圍繞“如何用好大模型”這一接地氣的主題，已經成為小公司們安身立命的根本。
當下，很多主流的AI大模型，并沒有對外開放模型的訓練和微調。較為普遍的做法是，將模型開發好以后，給用戶提供一個接口調用。
首先，AI大模型的打造是一個從算力，到整個框架，到模型再到應用的遞進過程，當下AI大廠更多處在夯實基礎能力的階段。
其次，AI產品進入行業，需要跟外部行業應用做適配協同，目前國內的AI大模型做得還不夠成熟，當下這個時間點，AI大廠還不太具備工程化落地的能力。
這一現實背景下，垂直大模型玩家要想在通用大模型的基礎上微調和推理，定制行業專用模型，并非易事。
基于和云從科技的關系，眾數信科不僅能夠參與進云從大模型的開發過程，還可以在云從大模型的基礎上訓練和微調自有的專業模型。
“通過云從，眾數信科可以獲得更加便捷的接口，更加開放的合作架構，定制化的銜接服務。現在市場上除了AI大廠，其他公司不具備這個能力，這是現階段眾數信科有別于其他創業公司的優勢。”吳炳坤說。
在吳炳坤看來，大模型在業務落地過程中，需要不斷強化三個方面的要素：一是人工智能技術研發，二是可觸達用戶的行業場景，三是高質量的行業數據語料。
底層技術方面，有云從科技的算法、算力做背書；在應用場景上，有廈門火炬創投提供的制造業產業數字化實踐基地；在落地過程中，則有民生電商提供金融和產品商業化落地的資源支持。
靜態數據相對穩定，不會發生即時變化，獲取路徑較為清晰，比如廣泛存在于各級政府部門、國企、企業中的自有文檔，以及數據庫中的數據等。
動態數據指不同行業場景中每時每刻產生的數據，這部分數據不斷更新、變化，不容易獲得，是與其他競爭者拉開距離的關鍵能力。
過去兩年，眾數信科以“i城市生活服務平臺”為媒介，觸及了國內6個省16個城市的3000萬個人用戶和數十萬企業用戶，積累了大量數據。
通過i城市服務平臺，眾數信科積累了豐富的場景數據，G/B/C端用戶需求和行業know-how，依托主流大模型技術底層能力，為客戶提供專業領域的知識智能工程化產品和KAAS服務。
此外，由于當下通用大語言模型在專業領域里可訓練的語料較為缺乏，因此語言模型落地細分領域過程中，知識局限、認知偏見、記憶幻覺等問題時有發生。
其中，知識局限、認知偏見問題，可以隨著數據的不斷積累、量變，得到解決，更大的難點來自于記憶幻覺。
本質原因在于，語言模型并非傳統理解中的一個數據庫，沒有真正的記憶能力，無法記住過去處理過的信息。而是通過訓練數據學習文本序列的數據分布，然后再根據學習到的數據分布生成文本序列，最終生成內容。
吳炳坤表示，“大模型并非一蹴而就，而是一個不斷動態優化的過程。眾數信科會根據特定行業場景，以及對知識庫上下文的學習等特定方法，在較大程度上規避生成內容‘胡編亂造’的情況，同時不斷和客戶做基于人類反饋的強化學習。”
通過 G 端切入，能夠快速覆蓋市場，同時批量聚攏B端和C端資源，最終將B端行業客戶經驗，快速復制到C端。
以教育行業為例，眾數信科依托云從的從容大模型，首先打造出了適用于學校、培訓機構的教育行業專用模型，并已在廈門部分地區試點使用。
第一步，積累和標注。基于多年在數字平臺建設和運營中積累的教師行業專業語料數據，同時依托行業專家經驗對數據進行標注，形成專有領域的訓練數據。
第二步，訓練和微調。在前者的基礎上，依托云從的從容大模型，采用知識蒸餾、權值量化、剪枝等工程化手段，將通用、龐大的教師網絡，訓練成一個特定行業的學生網絡。
第三步，落地和反饋。進入具體場景，并在此后運營過程中，不斷積累用戶的正負反饋，通過基于人類反饋的強化學習，反向打磨教育行業模型。
上述三個步驟中，專家的數據標注，以及基于人類反饋的強化學習，是兩個必經的難點。解決這兩個難點，需要通過推廣行業應用，加強知識積累，不斷自我迭代逐步解決。
現階段，眾數信科的行業專用模型還處在教師的“數字助理”階段。“數字助理”具備課件自動生成、靈活生成考題、對學生進行個性化評價等服務，教師在生成內容的基礎上做最后的審核把關即可。
一方面，“數字助理”通過輔助教學的方式，可以大大解放教師的精力，不斷提升教學效率；另一方面，在與教師共同工作過程中也可以不斷學習，最終成長為優秀教師的“數字分身”，達到接近一位優秀教師的程度。
目前，我國教育資源供給側明顯不足，先進地區和落后地區的教育資源差距較大。打造教育行業模型的意義在于，可以借助AI，將先進地區的先進學校的先進教師經驗傳承下來，帶到部分教育資源供給不足的地區。
眾數信科采取了兩條腿走路的辦法，即分別在教育先進地區和教育落后地區推廣“數字助理”和“數字分身”。
“將先進地區教師知識的沉淀，放在同樣先進的地區，可能不能滿足需求，但在一些教育落后地區，基本上能夠符合當地的使用需求。”
吳炳坤向雷峰網透露，今年下半年，眾數信科將在黑龍江教育資源比較欠缺的地區，進行“數字分身”的布局。
未來，隨著教育行業的模型沉淀和知識積累，因人施教也是教育模型功能演化的重要方向。“數字分身”可以進一步走入家庭，根據不同學生提供差異化教育方案，做到因人施教，為家庭教育減負。
一方面，行業的快速發展，催促著企業要迅速產生爆款產品，同時形成快速迭代的能力。這對企業的人才儲備、產品和技術路線、戰略決斷能力、資金儲備等都提出了更高的要求。
另一方面，隨著來自不同背景的玩家相繼入局，競爭格局也將隨之變化，比如教育領域，科大訊飛、猿輔導等都已悉數入場。
