LargitData - 大數軟體

LargitData - 大數軟體 大數軟體有限公司 (LargitData Inc) 是一家提供人工智慧(AI)、輿情大數據(Big Data)在雲平台(Cloud)的AI 與大數據分析公司，主要產品包含：RAGi 企業級AI 決策平台、AIMochi - 會議智慧助理與 InfomIner即時輿情分析分析平台。

大數軟體有限公司 (簡稱LargitData) 是一家以資料為服務(Data As A Service)的公司，公司著眼於在巨量資料的商機，希冀能成為提供客戶快速、精準的資料分析服務的先驅．公司創辦人具有巨量資料分析的相關經歷，綜合過去的經驗與分析對市場未來的走向，致力打造以資料服務為核心的品牌。

公司相關報導: https://money.udn.com/money/story/8889/2321156

Cloudflare 把自行研發的 Jev-like 開源模型 Clef，直接放進自己的 AI 生態系？！Clef 以 Qwen3.8-27B 為基礎，flash 版則採 Qwen3.5-9B。凍結主模型後，再訓練判斷層與 LoRA；推論時...
02/10/2026

Cloudflare 把自行研發的 Jev-like 開源模型 Clef，直接放進自己的 AI 生態系？！

Clef 以 Qwen3.8-27B 為基礎，flash 版則採 Qwen3.5-9B。凍結主模型後，再訓練判斷層與 LoRA；推論時不逐字生成，而是讀完輸入後，直接對預先定義的選項計算分數。

在官方測試中，Clef-flash中位延遲只有38.8ms，Jev則是524.1ms。但它還支援圖像輸入、64K上下文，與Jev API相容，並以Apache 2.0開源，可自行部署與強化學習微調。

價格也不高：Clef-flash 為 $0.09 / 1M input tokens，Clef 為 $0.24。Workers AI 每天還有免費 10,000 Neurons，約可跑 122 萬 Clef-flash 或 46 萬 Clef input tokens。

更有意思的是 Cloudflare 生態系，現在從模型呼叫、監控，到 RAG、Agent 與後端服務，都能串在同一套平台上。

Jev 帶起了決策模型風潮，Cloudflare 則開始把它變成 AI 基礎設施的一部分。

Jev 可以直接拿來提升 RAG 檢索品質？！turbopuffer 最近測試把 Jev 放進 RAG 中，用來重新排序檢索結果。一般 RAG 會先透過向量搜尋或文字搜尋，從大量文件中找出 100～1,000 個候選，再交給 Reranke...
01/10/2026

Jev 可以直接拿來提升 RAG 檢索品質？！

turbopuffer 最近測試把 Jev 放進 RAG 中，用來重新排序檢索結果。一般 RAG 會先透過向量搜尋或文字搜尋，從大量文件中找出 100～1,000 個候選，再交給 Reranker 判斷哪些內容最值得送進 LLM。

Jev 雖然不是專門為 Reranking 訓練的模型，但只要輸入問題、文件，再提供自然語言的判斷問題與評分標準，就能透過 Score API 對不同相關程度輸出機率，再加權成最終分數。

結果以 GPT 5.6 Sol 的排序作為參考時，Jev 在 50 個候選文件上達到約 64% 一致率，甚至超過 Voyage rerank-3、Jina reranker-v3.5 與 GPT 5.6 Luna。

不過 Jev 約 US$0.0138／query，目前仍比 Voyage rerank-3 貴。

那既然本質上是分類，是否自己微調一個更小、更快的模型不就好了？

但 Voyage 本來就是專門的 Reranker，結果一個通用決策模型，反而能超過這些專用模型，這才是 Jev 真正有意思的地方。

OpenAI DevDay 滿滿的致敬風？！首先是致敬Grok Bot 的 dots：由 GPT-6 Astra 驅動、擁有自己的雲端電腦，可以長時間持續執行任務，甚至跨不同 App 工作。未來還能讓多個 dot 組成團隊，朝「AI 員工」...
30/09/2026

OpenAI DevDay 滿滿的致敬風？！

首先是致敬Grok Bot 的 dots：由 GPT-6 Astra 驅動、擁有自己的雲端電腦，可以長時間持續執行任務，甚至跨不同 App 工作。未來還能讓多個 dot 組成團隊，朝「AI 員工」 邁進！

正面迎戰 Sonnet 5.5 而推出 GPT-6.1 Sol，主打 Agent Coding、Computer Use 與專業工作，價格只有 Astra 標準 Token 的 1/5；另外還推出 Ultrafast，Codex 最高能跑到每秒 300 tokens。

致敬 Jev 的 Decisions API 專門處理分類、Routing、Agent 下一步決策；Agents API 則把多 Agent、工具呼叫、Context 壓縮，甚至 Computer Use 都包成代管服務。

果然致敬是最好的商業模式 🤣

Claude Sonnet 5.5 發布：價格不變、速度快 30%？！Anthropic 這次維持 Sonnet 原本的 API 價格：每百萬 input tokens 2 美元、output 10 美元，但官方表示速度提升超過 30%，完...
30/09/2026

Claude Sonnet 5.5 發布：價格不變、速度快 30%？！

Anthropic 這次維持 Sonnet 原本的 API 價格：每百萬 input tokens 2 美元、output 10 美元，但官方表示速度提升超過 30%，完成相同任務需要的 Tool Calls 與 Tokens 也更少，實際每個任務的成本最高可下降約 30%。

在 Coding 與 Agent 測試上進步尤其明顯。Terminal-Bench 4.0 從 Sonnet 5 的 10.3% 提升到 70.6%，甚至高於 Opus 5.5 的 66.4%；CursorBench 4.0 也從 34.1% 提升到 55.5%，已經非常接近 Opus 5.5 的 57.8%。

這也代表未來模型更會規劃怎麼做事、更常平行呼叫工具、減少不必要的 Shell 操作與輸出 Tokens，而不是每做一步就停下來重新思考。

不過比較 Opus 與 Sonnet 完成任務所需的 Token 效率幾乎差不多⋯，我看應該用Opus 就夠了😒

用 Jev 取代 Embedding？！我們通常會用 Embedding 找出和問題最相似的內容，但 GPT Researcher 做了一個很有意思的嘗試：直接用 Jev 判斷一段資料「對回答這個問題有沒有用」。GPT Researcher...
29/09/2026

用 Jev 取代 Embedding？！

我們通常會用 Embedding 找出和問題最相似的內容，但 GPT Researcher 做了一個很有意思的嘗試：直接用 Jev 判斷一段資料「對回答這個問題有沒有用」。

GPT Researcher 是一套開源 Deep Research Agent，在「搜尋 → 抓網頁 → 寫報告」中間，它使用 Jev 過濾 Context，判斷從網頁切出來的 Chunks，哪些值得送進 Writer LLM。

這和 Embedding 不太一樣，Embedding 是把 Query 和 Chunk 轉成向量，再比較語意相似度，但「很像」不一定代表「真的能回答問題」。

Jev 則更像直接做決策：把 Query 和 Chunk 一起看，判斷這段 Context 對目前任務到底有沒有價值。

官方以 28 個真實 Research Tasks 測試，Jev 保留內容的相關率達 73%，Embedding 為 46%；送進 LLM 的 Context 也從 7.6K 降至 4.5K tokens，SimpleQA 則為 19/20 vs 18/20。

可以把 27B 模型塞進 16GB 顯卡？！OrcaRouter 推出 OrcaSAQ2-27B，以 Qwen3.8-27B 為基礎，透過混合精度量化，把原本 54GB 的 BF16 權重壓到 12.3GB，平均只有 3.21 bit/we...
28/09/2026

可以把 27B 模型塞進 16GB 顯卡？！

OrcaRouter 推出 OrcaSAQ2-27B，以 Qwen3.8-27B 為基礎，透過混合精度量化，把原本 54GB 的 BF16 權重壓到 12.3GB，平均只有 3.21 bit/weight，體積縮小 77.2%。

它主要針對 Agent、Coding、工具呼叫與長流程任務。官方公布 SWE-bench Verified 70.0%、Terminal-Bench 2.1 58.4%；不過不同模型使用的 Agent 架構與測試環境不同，不能直接當成嚴格排名。

重點是它不只追求小。官方測試中，量化後 perplexity 只增加 0.02%，與 BF16 的 Top-1 token 一致率仍有 93.2%，並保留 Thinking、Tool Calling、MTP speculative decoding，模型架構最高支援 262K context。

透過 vLLM 部署，在 15.7GiB VRAM 限制下，單 stream 開啟 MTP 可達 90.1 tok/s。

只要大約 17 美元，就能訓練一個自己的 Jev-like 模型？！Together AI 推出實驗模型 Tev1-4B，並公開如何以 Qwen3.5 4B 為基礎，把一般語言模型改造成專門做分類與決策的模型。做法其實不複雜。首先收集 Mu...
27/09/2026

只要大約 17 美元，就能訓練一個自己的 Jev-like 模型？！

Together AI 推出實驗模型 Tev1-4B，並公開如何以 Qwen3.5 4B 為基礎，把一般語言模型改造成專門做分類與決策的模型。

做法其實不複雜。首先收集 MultiNLI、BoolQ、Banking77、AG News、SST-5，以及自行建立的政策判斷、任務分流與論文分類資料，共約 3.8 萬筆。

接著把原本格式完全不同的資料，全部整理成相同的「決策題」：先給模型一段目前狀態，再提出一個問題與數個候選答案，並告訴它正確答案。透過這些資料微調 Qwen3.5 4B，讓模型逐漸從「根據文字生成回答」，變成「看完狀態後，從有限選項中做決定」。

官方實測整個微調只需約 25 分鐘、17 美元。

如果不想自己訓練，也能直接使用 Together 託管的 Tev1-4B，每百萬 input tokens 0.042 美元，output 免費。

NVIDIA 開源一個厲害的講者辨識模型？NVIDIA 推出 Nemotron 3 Diarization，一個只有 100M 參數的開源權重模型，專門處理 Speaker Diarization，也就是判斷「誰在什麼時間說話」。它最多可以...
26/09/2026

NVIDIA 開源一個厲害的講者辨識模型？

NVIDIA 推出 Nemotron 3 Diarization，一個只有 100M 參數的開源權重模型，專門處理 Speaker Diarization，也就是判斷「誰在什麼時間說話」。

它最多可以同時處理 8 位說話者，即使兩個人互相打斷、同時講話，也能標記各自的時間區段。更重要的是，同一套模型同時支援離線錄音與即時串流，最低建議輸入延遲只有 0.32 秒。

在 VoiceArena 的 Diarization-Bench 中，Nemotron 3 以 14.72% DER 排名第一；在 1.04 秒低延遲設定下，相較 NVIDIA 前一代模型，跨多組測試平均降低約 41% 的相對錯誤率。

它本身不負責把語音轉成文字，而是可以與 ASR 組合，形成「Speaker A 說了什麼、Speaker B 回了什麼」的完整逐字稿。

對會議助理、客服分析、Podcast、Voice Agent 來說相當有用，因為 AI 不只要聽懂內容，還要知道是誰說的。

買 Gemini 的各位，你買的不只是 5TB 硬碟，現在連 Colab GPU 算力都包進去了？！從 9 月 22 日開始，Google AI 訂閱用戶將陸續獲得 Colab 的進階權益，包括優先使用速度更快的加速器，以及更高規格的運算環...
25/09/2026

買 Gemini 的各位，你買的不只是 5TB 硬碟，現在連 Colab GPU 算力都包進去了？！

從 9 月 22 日開始，Google AI 訂閱用戶將陸續獲得 Colab 的進階權益，包括優先使用速度更快的加速器，以及更高規格的運算環境；如果是 Google AI Ultra 用戶，還能使用 Premium GPU，以及不中斷的背景執行。

換句話說，即使關掉瀏覽器分頁，長時間的模型訓練或運算工作仍然可以繼續跑。

現在 Google AI Plan 已經逐漸涵蓋 Gemini、Google AI Studio、Antigravity、Workspace 整合、Cloud Storage，再加上 Colab。對開發者來說，一個訂閱開始同時涵蓋「使用模型、寫程式、做實驗、跑 GPU」等不同環節。

原本已經訂閱 Colab 的使用者也不用取消，既有方案不受影響，而且 Google AI Plan 提供的 Colab 額度還可以疊加使用。相關權益將在接下來幾週陸續於 Colab 支援的國家推出。

有了 GPU，你還有理由嘴 Gemini 嗎（誤）！

對標 Jev 的新訓練模型 Contrastive Language Model（CLM）來了？！CLM 的想法是先理解現在是什麼情況，再從候選動作裡找出最匹配的一個。 訓練時，它會讓正確的「狀態－動作」組合更接近、錯誤的組合更遠。到了實際...
24/09/2026

對標 Jev 的新訓練模型 Contrastive Language Model（CLM）來了？！

CLM 的想法是先理解現在是什麼情況，再從候選動作裡找出最匹配的一個。 訓練時，它會讓正確的「狀態－動作」組合更接近、錯誤的組合更遠。到了實際執行時，也不需要像一般 LLM 一樣逐字生成答案，而是直接替每個候選動作打分、選出最適合的那個。由於候選動作還可以事先算好，所以當選項固定、數量很多時，速度優勢會更明顯。

相對於 Jev 的 RLCD，Jev 比較重視決策信心要可信，例如模型說自己有 80% 把握，長期下來最好真的接近 80% 正確；CLM 則更像是在學習遇到這種情況，哪個動作最適合。簡單來說，Jev 重視信心校準，CLM 重視狀態與動作的匹配。

作者測試中，CLM 在 gaming、computer-use、tool calling 上整體接近 Jev，延遲最高快約 9 倍，大量候選 Action 時甚至可達 13 倍；但部分任務 Jev 仍更準。

不過果然有 Jev 開了第一槍證明決策模型的價值後，各種解法就如雨後春筍般冒出來了！

Address

玉門街1 號
Taipei
104

Opening Hours

Monday 10:00 - 19:00
Tuesday 10:00 - 19:00
Wednesday 10:00 - 19:00
Thursday 10:00 - 19:00
Friday 10:00 - 19:00

Telephone

+886225855080

Website

Alerts

Be the first to know and let us send you an email when LargitData - 大數軟體 posts news and promotions. Your email address will not be used for any other purpose, and you can unsubscribe at any time.

Contact The Business

Send a message to LargitData - 大數軟體:

Shortcuts

Share

Category