refactor: 抽出统一入库管道,合并定时与手动两条重复路径

问题:app.py:auto_monitor_job(定时)和 routes/api.py:run_monitor(手动)
各自维护了一份几乎相同但细节不一致的写入逻辑,同一条数据经不同入口落库后
latest_time / source / offset / file_count 可能不同。

- 新增 services/time_utils.py:calculate_offset 下沉到无依赖模块,避免
  db_ingest 与 routes.api 互相 import 形成循环。routes/api.py 里 re-export
  一次,保证 app.py 原有的 from routes.api import calculate_offset 不失效。
- 新增 services/db_ingest.py:ingest_device_data(),承载全部入库细节,只
  add/flush 不 commit,事务边界交给调用方。
- routes/api.py:run_monitor 瘦身为「触发爬虫 -> 调管道 -> 提交」。
- models.py:to_dict() 的 offset 改为读取时用 calculate_offset(latest_time)
  实时计算,不再读 offset 列。该列是写入时刻的快照,采集一停摆就整体失真
  (库里停在 2026-02-06,offset 却仍显示“当天”)。列保留但已废弃,
  不执行 ALTER TABLE DROP COLUMN。

入库语义(db_ingest):
- 只有爬虫拿到真实业务时间才更新主表 latest_time,拿不到就保留上一个有效值
  (冻结),不再回退到 current_time。
- DeviceHistory 单独用 history_time:主表回答“数据到什么时候”,历史回答
  “什么时候采过”。
- 历史表 json_data 改存本次增量切片,不再复制主表那份越滚越大的累积 JSON。
- 主表 json_data 改为覆盖式更新以切断无限膨胀,但保留 APP_OWNED_KEYS
  (bound_iccid / is_whitelist)—— 这两个键由 /bind_device_card 和
  /toggle_whitelist 写入,按原方案直接覆盖会清空所有设备-流量卡绑定。
This commit is contained in:
DXC
2026-09-15 17:05:38 +08:00
parent 1412b0ed0b
commit d66e2826e1
4 changed files with 165 additions and 84 deletions

View File

@ -1,6 +1,8 @@
# models.py
from datetime import datetime
from extensions import db
# services.time_utils 只依赖 datetime,不会与 extensions/models 形成循环导入
from services.time_utils import calculate_offset
class Device(db.Model):
@ -46,7 +48,10 @@ class Device(db.Model):
'is_maintaining': self.is_maintaining,
'is_hidden': self.is_hidden,
'is_whitelist': self.is_whitelist,
'offset': self.offset,
# 滞后天数在读取时实时计算,不读 self.offset。
# offset 列是写入时算好的"化石",采集一旦停摆就会整体腐烂
# (例如库停在 2026-02-06,offset 却仍显示"当天")。
'offset': calculate_offset(self.latest_time),
'file_count': self.file_count # ✅ 返回给前端
}