|
|
1412b0ed0b
|
fix: 爬虫不再用运行时刻伪造数据时间
crawler_106:
- find_closest_item 原来用 abs(now - item) 取“离现在最近”,服务端只要存在
未来日期的目录就会被选中。改为只保留不晚于当前时间的项,再取最新那个。
- 目录名只有日期,按当天 00:00 参与比较。不能用 23:59:59,否则“今天”的目录
会大于当前时刻而被当成未来剔除,永远只取到昨天的数据。
- 文件 modified 带 Z 表示 UTC,不带时区的按东八区补上。原来 .replace(tzinfo=None)
会让 naive/aware 比较抛异常,被 except 静默吞掉,导致所有文件被丢弃。
- target_time 不再用「目录日期 + datetime.now()」拼接(那写进库的是爬虫跑批
时刻,而 calculate_offset 只取日期部分,等于在骗前端)。改为从最终文件路径
正则提取真实记录时间,正则没命中时退化到文件修改时间。
- 正则放宽:兼容 /Data 与 /data、前导斜杠、扩展名大小写。
crawler_82:
- 基础数据包的 target_time 默认值不再用 datetime.now()。
- d_list 为空时原为字符串 "N/A",它是真值,会通过入库层的 if target_date
判断,把设备主表已冻结的有效时间覆盖掉。改为 None。
爬虫层只负责解析真实记录时间,解析不出来就留 None;如何入库交给
services/db_ingest 决定(离线时冻结上一个有效时间)。
|
2026-09-15 17:05:31 +08:00 |
|
|
|
51deee1493
|
自动写入修改,除了文件个数外,其他信息不展示问题
|
2026-02-08 10:53:00 +08:00 |
|
|
|
f167bbc2f2
|
修改自动爬取时间为17点,修改自己动爬取未写入的问题,写入存在线程阻碍导致无法写入进去,以进行修改,测试成功
|
2026-02-06 10:08:49 +08:00 |
|
|
|
4cb503089e
|
修改自动爬取时间为17点,修改自己动爬取未写入的问题
|
2026-02-05 09:25:00 +08:00 |
|
|
|
fb52536898
|
修改自动爬取时间为17点
|
2026-02-03 17:40:36 +08:00 |
|
|
|
e093ae9633
|
修改新增加文件数量的查询功能
|
2026-02-03 17:15:42 +08:00 |
|
|
|
195c3f8fa4
|
增加流量卡状态信息,对流量信息上提进行调整,取消超过500MB进行的警告整行标黄和上提功能,仅保留流量数字标黄
|
2026-01-22 10:55:41 +08:00 |
|
|
|
cb567b2c7d
|
当自动爬取的时候前端没有传输设备绑定和iccid的关系,导致后端没有接收到,现在修改逻辑
|
2026-01-16 13:14:56 +08:00 |
|
|
|
9b7799b827
|
当自动爬取的时候前端没有传输设备绑定和iccid的关系,导致后端没有接收到,现在修改逻辑
|
2026-01-15 14:06:38 +08:00 |
|
|
|
f043983d24
|
时间显示异常
|
2026-01-14 14:42:33 +08:00 |
|
|
|
9ebfd79414
|
成功添加哈士奇业务以及白名单功能创建
|
2026-01-13 16:43:34 +08:00 |
|
|
|
fe21532741
|
添加哈士奇sim卡业务
|
2026-01-13 14:50:23 +08:00 |
|
|
|
e2333ea9b8
|
数据异常处理
|
2026-01-12 15:57:34 +08:00 |
|
|
|
ffbd494b7b
|
打包上传的2.0版本
|
2026-01-09 12:48:50 +08:00 |
|