請問有沒有能夠記憶大量文本和設定的ai

各位前輩早安

小弟最近在嘗試創作小說

會將設定集交給ai,完成的作品交給ai,讓他扮演編輯幫我抓邏輯和設定上的錯誤,或者扮演讀者發報讀後感

文本加設定集目前已經累積有幾萬字了

但發現一個問題,ai的記憶力有限,往往到了過15000字後,就會很容易出現各種錯亂,例如:人物和對應的事件記錯,故事情節記錯,甚至開始胡扯的情況

目前嘗試過以下三種ai,除了deep以外都嘗試過付費模式了

Chatgpt:能記憶的時間較長,但後期(過1發15000字後)就很明顯出現模型偷懶,回答越來越敷衍的情況,重開新話題雖然會改善,但也會疑遺忘大量文本和設定

Deepseek:使用的運算模型穩定,但無法記憶太長的文本,大概10000字左右會出現明顯的記憶遺失

Gemini:大概6000左右就開始各種遺忘了,還會一本正經的胡說八道,我使用付費模式後稍微改善,但也只是稍微,目前不再考慮使用

請各位大大能夠給小弟推薦一下有沒有適合的ai,付費也可以接受,只要真的能解決我的問題

感謝大家^^

補充一下,我會要求ai在發現文本太長,他已經無法有效記憶時回報給我,但ai滿口答應,但每次都還是我自己發現,唉

Ai和人類一樣,最先學會的就是說謊
覺得分段讓ai記住比較重要...
gemini回的

撰寫長篇小說時,你需要具備大記憶容量(上下文視窗)與結構化組織能力的 AI,才不會寫到一半「人設崩壞」或忘記前面的伏筆。
以下是目前最適合用來寫長篇小說的 AI 工具推薦:
## 1. 專門的小說創作 AI(內建世界觀設定)

* NovelAI:專為小說家設計,內建「Lorebook(世界觀設定本)」,你可以把角色外貌、世界觀、超能力規則輸入進去,AI 寫作時會隨時調用,絕不忘記設定。
* Sudowrite:內建「Story Bible(故事聖經)」,從大綱、角色卡、每章節節點(Beats)到正式內文,一步步引導你擴寫,非常適合長篇架構。

## 2. 超大記憶庫的通用型 AI(適合讀寫大量大綱)

* Claude 3.5 Sonnet (搭配 Projects 功能):擁有超大記憶容量。你可以建立一個「小說專案」,把整本小說的大綱、前幾章、角色設定集當作背景知識上傳,之後每次對話它都會記得所有細節,文筆也是目前公認最細膩、最有文學感的。
* Google Gemini 1.5 Pro (搭配 Advanced 或 AI Studio):具備高達 100 萬到 200 萬字元的記憶空間,可以直接吞下整本數十萬字的小說。你可以把整本完結的小說丟給它,叫它檢查前後邏輯矛盾或修改伏筆。

## 3. AI 小說寫作的實用技巧

* 分章節餵食:不要讓 AI 一口氣寫一萬字。先與 AI 討論出「每章細節大綱(Plot Beats)」,每次只讓它寫 500 到 800 字。
* 建立常駐人設表:無論用哪款 AI,對話開頭一定要固定鎖定「角色名字、性格、目前場景、核心衝突」,避免 AI 因為對話過長而失憶。

為了幫你搭配最流暢的寫作工作流,請告訴我:

* 你預計寫的小說類型(如:奇幻仙俠、科幻燒腦、言情總裁)
* 你希望 AI 扮演的主要角色(如:幫你想大綱與靈感、還是幫你把大綱擴寫成正式內文)

我能為你提供具體的 Prompt(提示詞)設定與操作步驟。
hidear1024
太感謝前輩了,我再去試試看[拇指向上]
不然就是自己弄一個

自組「不會忘記上下文的 AI」主要透過「RAG 技術(檢索增強生成)」或「具備本地記憶庫的開源 AI 代理框架」來實現。 這類自組方案可以將您的所有歷史對話、個人筆記或企業文件儲存在本地的向量資料庫中,當您提問時,系統會自動撈取相關的過去記憶餵給 AI,達到「永遠不忘記背景資訊」的效果。
自組這類 AI 系統,目前主流有以下三種高效率的實作方案:
## 1. 零程式碼的地端對話軟體(適合一般用戶)

* AnythingLLM:完全免費且開源的桌面應用程式。內建向量資料庫,您只需一鍵開啟「工作區記憶」,把所有文件丟進去,它就能在後續對話中永久記住這些上下文。
* Jan.ai / LM Studio:這兩款工具可以直接在您的電腦運行開源模型(如 Llama 3、Mistral),並支援掛載本地資料夾作為 AI 的長期記憶庫。

## 2. AI 代理人框架(適合需要自動化流程的開發者)

* Mem0 (原 EmbedChain):這是專門為 AI 代理打造的「智慧記憶層」。它能記住用戶隨口提到的個人偏好,並跨對話動態更新記憶,非常適合用來寫出具有長期記憶的 Line Bot 或網頁助理。
* LangChain / LlamaIndex:透過內建的 ConversationBufferWindowMemory 或 VectorStoreRetrieverMemory 組件,開發者可以輕鬆串接 PostgreSQL、Chroma 等資料庫,幫 AI 客製化一輩子都不會忘記的上下文。

## 3. 開源 WebUI 與資料庫組合(適合極致客製化)

* Open WebUI + Ollama:這是目前最受歡迎的自建組合。介面極度模仿 ChatGPT,且原生支援 RAG 功能,只要在對話中打 # 就能直接調用特定的歷史文件或過去的對話記憶。

如果您想開始動手自組,請告訴我您目前的硬體設備與偏好:

* 您的電腦是否有獨立顯示卡(如 NVIDIA RTX 系列),希望完全地端免費運行?
* 還是您打算串接 OpenAI / Claude 的 API Key,只是想卡一個外部記憶庫給它用?
這種用法建議要用雲端LLM + 地端LLM
整體框架跟規則/限制先用雲端的模型來產出

然後分段用地端的LLM,避免燒雲端的token太快速
且要用中文友善或文字創作優化的model
也要有"編輯"這種角色在持續審視



重點:目前別想單用一個model/agent或一個prompt搞定所有事
Claude 3.5 Sonnet的Projects 功能或Google NotebookLM,可以將設定集當作知識庫上傳,直接讓AI好很多,這能極大程度維持設定邏輯的一致性。
hidear1024 wrote:各位前輩早安小弟最近...(恕刪)
API版???大模型蒸餾??網頁版?

你的資料整理應該跟我最近在開發遇到的差不多
首先你要定義角色MD檔→故事MD(個人想法)
像我整理的個股資訊,每筆個股隨便都上萬字的
丟給AI模型(自開發)每個情節的對應讀取確認
要長文本,我是用Qwen3.6-35B-A3B(蒸餾)+RAG架構
章節分析推理用RAM,整理完重點分段存SSD,走DDB
我沒寫過小說的AI,但感覺有意思。先關注你的版了
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!