稍大一点的表格输出会被截断，这个问题看起来有点严重……

[yanhuixie]

无论在 https://huggingface.co/zai-org/GLM-OCR 测试，还是本地的Ollama、SGLang测试，结果一模一样。
输入图参考附件，输出如下：

(1) 2017年6月-2018年10月劳动力计划表 <div align="center"> 劳动力计划表 （单位：人） </div> <table border="1"><tr><td rowspan="3" colspan="2">工种</td><td colspan="16">按工程施工阶段投入劳动力情况</td></tr><tr><td colspan="6">2017年</td><td colspan="10">2018年</td></tr><tr><td>6月</td><td>7月</td><td>8月</td><td>9月</td><td>10月</td><td>11月</td><td>12月</td><td>1月</td><td>2月</td><td>3月</td><td>4月</td><td>5月</td><td>6月</td><td>7月</td><td>8月</td><td>9月</td><td>10月</td></tr><tr><td rowspan="16">土建</td><td>钢筋工</td><td></td><td>40</td><td>80</td><td>200</td><td>180</td><td>180</td><td>100</td><td>100</td><td>100</td><td>100</td><td>110</td><td>60</td><td>60</td><td>50</td><td>10</td><td>10</td><td>10</td></tr><tr><td>砼工</td><td></td><td>10</td><td>10</td><td>40</td><td>150</td><td>150</td><td>40</td><td>50</td><td>60</td><td>60</td><td>70</td><td>80</td><td>60</td><td>60</td><td></td><td></td><td></td></tr><tr><td>木工</td><td></td><td>30</td><td>60</td><td>210</td><td>220</td><td>215</td><td>60</td><td>80</td><td>80</td><td>80</td><td>100</td><td>100</td><td>80</td><td>60</td><td>5</td><td>5</td><td>5</td></tr><tr><td>护坡工</td><td>40</td><td>40</td><td>30</td><td>20</td><td>10</td><td>0</td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td><td></td></tr><tr><td>机操工</td><td>2</td><td>10</td><td>18</td><td>30</td><td>30</td><td>18</td><td>14</td><td>14</td><td>14</td><td>16</td><td>20</td><td>20</td><td>16</td><td>16</td><td>4</td><td>4</td><td>4</td></tr><tr><td>防水工</td><td></td><td></td><td></td><td>25</td><td>40</td><td></td><td></td><td></td><td></td><td>20</td><td>5</td><td></td><td></td><td></td><td></td><td></td><td>20</td></tr><tr><td>架子工</td><td></td><td></td><td>20</td><td>10</td><td>20</td><td>40</td><td>20</td><td>10</td><td>5</td><td>5</td><td>5</td><td>0</td><td>5</td><td>10</td><td>10</td><td>10</td><td></td></tr><tr><td>电焊工</td><td></td><td>6</td><td>10</td><td>12</td><td>14</td><td>14</td><td>4</td><td>2</td><td>1</td><td>2</td><td>2</td><td>2</td><td>2</td><td>2</td><td>2</td><td>2</td><td>2</td></tr><tr><td>测量工</td><td>2</td><td>5</td><td>4</td><td>5</td><td>5</td><td>5</td><td>5</td><td>4

[truthstriver]

@yanhuixie 我设置了max model length和max num-batchd-tokens 就不会截断了。不过后面的识别结果有些不那么准确。

export HF_HUB_OFFLINE=1
export TRANSFORMERS_OFFLINE=1

# 使用 nvidia-smi 自动检测当前机器的 GPU 数量
NUM_GPUS=$(nvidia-smi --list-gpus | wc -l)

echo "[Entrypoint] 检测到 $NUM_GPUS 张 GPU，启动 vLLM 服务..."

vllm serve zai-org/GLM-OCR \
  --allowed-local-media-path / \
  --port 8080 \
  --speculative-config '{"method": "mtp", "num_speculative_tokens": 1}' \
  --served-model-name glm-ocr \
  --trust-remote-code \
  --gpu-memory-utilization 0.75 \
  --max-model-len 131072 \
  --limit-mm-per-prompt '{"image": 5}' \
  --max-num-batched-tokens 16384 \
  --tensor-parallel-size $NUM_GPUS 

[truthstriver]

或者调大--gpu-memory-utilization

[yanhuixie]

@truthstriver 多谢兄弟，稍后我试试再反馈。
刚发现碰上就这么一个表格，各OCR引擎几乎团灭，glm-ocr不行，paddleocr-vl也搞不定，paddlestructural-v3照样搞不定。😂

[JaredforReal]

@yanhuixie 感谢反馈，这个问题在过往的issue中讨论过，根据所用机器不同，适当调高--max-model-len，提高--gpu-memory-utilization，提高--limit-mm-per-prompt中的image数量和大小都有利于这个改善这个问题。

[JaredforReal]

@truthstriver 感谢你的回答！如果请求没有走SDK，直接打到模型本身，确实可能会在大图片，或大PDF的输入上遇到模型瓶颈，我们正在想办法改善这个问题，感谢您的理解～

[yanhuixie]

@JaredforReal 多谢解答，抱歉这几天在折腾MinerU，实践表明MinerU在这方面处理比较完善，能够正常处理这种琐碎表格。
对于glmocr而言，显然如你所建议，这不是glmocr模型本身的缺陷，而是受缺省参数的影响，所以能否考虑调整缺省参数而且在文档中明确记载呢？在生产环境中，这种表格还算毛毛雨，算是很常见的，对于常见场景，建议缺省参数尽量覆盖。

题外话：8G显存跑glmocr，遇到复杂表格还是要爆显存的，主要是--max-model-len --gpu-memory-utilization等参数调大之后，kv-cache大概率会爆掉。最好是12G以上的显存来跑glmocr，其实也不只是glmocr，隔壁paddle家的、mineru的也一样，只要上了VLM都得面对这个问题。

[JaredforReal]

@yanhuixie 感谢您的建议！我们会在README中做好说明