report-review

review_typst.py (2014B)

---

 import os
 
 from llama_cpp import Llama
 
 MODEL_PATH = "./mistral_typst_merged.f16.gguf"
 FILE_PATH = "prism.typ"
 N_CTX = 8192
 MAX_TOKENS = 8192
 
 if not os.path.exists(MODEL_PATH):
     print(f"Error: Model file not found at {MODEL_PATH}")
     exit(1)
 
 if not os.path.exists(FILE_PATH):
     print(f"Error: Typst file not found at {FILE_PATH}")
     exit(1)
 
 try:
     with open(FILE_PATH, "r", encoding="utf-8") as f:
         typst_content = f.read()
 except Exception as e:
     print(f"Error reading file: {e}")
     exit(1)
 CPU_CORES = os.cpu_count()
 llm = Llama(
     model_path=MODEL_PATH,
     n_gpu_layers=0,
     n_ctx=N_CTX,
     n_threads=CPU_CORES,
     verbose=True,
 )
 
 SYSTEM_PROMPT = (
     "あなたはTypstコードのレビュー専門家です。提供されたコードを分析し、"
     "物理学の実験のレポートとしての問題点を日本語でリストアップしてください。"
     "出力は、Markdownの箇条書き形式（- [種別] メッセージ）で簡潔に記述してください。"
     "余計な前置きや結論の文章は一切不要です。"
 )
 
 USER_PROMPT = (
     f"以下のTypstコードをレビューしてください。\n\n```typst\n{typst_content}\n```"
 )
 
 prompt = f"### System:\n{SYSTEM_PROMPT}\n\n### User:\n{USER_PROMPT}\n\n### Assistant:"
 
 print("--- Llama モデルの初期化完了 (CPU Mode) ---")
 print(f"レビュー対象ファイル: {FILE_PATH} ({len(typst_content)} chars)")
 print("--- 推論開始 (時間がかかる可能性があります) ---")
 
 try:
     completion = llm.create_completion(
         prompt=prompt,
         max_tokens=MAX_TOKENS,
         temperature=0.1,
         stop=["### User:", "### System:"],
     )
 
     print("\n\n--- レビュー結果 ---")
     print(completion["choices"][0]["text"].strip())
     print("--------------------")
 
 except Exception as e:
     print(f"\n\n--- 推論中にエラーが発生しました ---")
     print(f"エラー: {e}")