0 Fork 0

mirror of https://github.com/KingHWJ/WeReadBoard.git synced 2026-11-03 18:24:58 +08:00

Files

T

admin 2a809eb7cc refactor: complete data model v2.0 based on official API docs

数据模型全面重构，基于微信读书官方 8 份 API 文档逐字段比对：

1. 表结构从 18 张扩展到 31 张表：
   新增表：shelf_albums(有声书)、shelf_meta(书架元信息)、prefer_publishers(偏好出版社)、
   prefer_cps(偏好版权方)、prefer_books(偏好书籍卡片)、read_rank(好友排行)、
   medals(勋章)、year_reports(年度报告)、book_best_bookmarks(热门划线)、
   book_underlines(划线热度)、similar_books(相似推荐)、public_reviews(公开点评)、
   search_sessions(搜索会话)

2. 补全所有遗漏字段：
   - reading_stats: +13 个字段 (baseTime, compare, readRate, wrReadTime, wrListenTime 等)
   - book_chapters: +8 个字段 (wordCount, level, price, paid, isMPChapter, anchors 等)
   - book_reviews: +4 个字段 (abstract, range, chapterUid, chapterIdx)
   - recommended_books: +5 个字段 (deepLink, searchIdx, price, payType, type)
   - search_results: +8 个字段 (deepLink, payType, price, soldout, scope 等)
   - book_details: +2 个字段 (deepLink, newRatingDetail)
   - prefer_categories: +2 个字段 (parentCategoryId, categoryType)

3. 时间戳双列设计：
   - 所有整型时间戳字段均伴随 _dt TIMESTAMP 列 (如 read_update_time + read_update_time_dt)
   - 便于直接查询和展示，无需应用层转换

4. 审计字段：
   - 每张表均维护 created_at 和 updated_at
   - MySQL 使用 DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP

5. 索引优化：
   - 主键、唯一约束、查询索引根据实际访问模式重新设计
   - 新增复合索引、排序索引、全文检索索引

6. 数据采集脚本更新：
   - 覆盖所有新增表和字段的数据采集
   - skill_version 升级至 1.0.4
   - 有声书/专辑数据采集 (shelf_albums)
   - 偏好出版社/版权方/书籍卡片采集
   - 勋章、年度报告数据采集

7. 后端适配：
   - 移除旧版 ensure_tables 动态建表逻辑
   - 所有按需 API INSERT 语句适配新表结构
   - 搜索结果入库新增 search_sessions 会话表
   - 推荐书籍入库新增 batch_id 批次标识

2026-07-17 10:37:07 +08:00

3.3 KiB

Raw Blame History

2026-07-17 工作日志

微信读书数据展示网站

使用微信读书 API（weread-skills）拉取用户的阅读数据
数据采集脚本 fetch_data.py：拉取书架（404本）、阅读统计（overall+annually）、笔记本（32本1709条笔记）数据，存入本地 SQLite 数据库 weread.db
Flask 后端 app.py（端口 8080），提供 8 个 API 接口：overview, yearly-trend, top-books, categories, authors, time-distribution, shelf, notebooks
前端页面：ECharts 图表（年度趋势柱状图、24h时段折线图、分类饼图、作者排行条形图）、书架网格（分页+筛选）、笔记概览
数据规模：累计阅读 339 小时 57 分钟、304 天阅读、404 本书架藏书、1709 条笔记
技术栈：Python Flask + SQLite + ECharts + 原生 HTML/CSS/JS

功能迭代（第二批）

Git 仓库：dev 分支初版提交 + 功能迭代提交，master 分支 --no-ff 合并，遵循 conventional commits 规范
书籍详情弹窗：点击书架书籍实时调 /book/info + /book/getprogress API，展示详细信息+阅读进度，数据入库 book_details/book_progress 表
笔记详情弹窗：点击笔记书籍实时调 /book/bookmarklist + /review/list/mine API，划线按章节分组+想法/点评，数据入库 book_highlights/book_reviews/book_chapters 表
推荐页面：个性化推荐（/book/recommend）+ 关键词搜索（/store/search），数据入库 recommended_books/search_results 表
修复 Flask 中文 URL 参数编码问题（latin-1 -> utf-8 转码）
MySQL 版本建表语句 schema_mysql.sql：18 张表完整 DDL，utf8mb4 字符集，含索引和字段注释
新增 7 张按需数据表：book_details, book_progress, book_highlights, book_chapters, book_reviews, recommended_books, search_results

MySQL 迁移

启动本地 MySQL 5.7.31（通过 launchctl load com.oracle.oss.mysql.mysqld.plist）
MySQL root 密码：258963
创建数据库 weread_dashboard（utf8mb4），执行 schema_mysql.sql 创建 18 张表
迁移脚本 migrate_to_mysql.py：SQLite -> MySQL 全量迁移，共 862 行数据
时间戳列自动转换（SQLite int -> MySQL TIMESTAMP）
中文内容 utf8mb4 完整保存，数据校验通过
Flask 服务暂未切换至 MySQL（用户要求服务不重启）

第三批功能迭代（MySQL 切换 + 文档 + 告警）

数据源切换至 MySQL：app.py 从 SQLite 全面切换到 PyMySQL，所有 API 读取 MySQL weread_dashboard 数据库
db_required 装饰器：统一管理数据库连接和异常处理，MySQL 连接失败返回 HTTP 503
健康检查接口：新增 /api/health，前端页面加载时优先检测 MySQL 连接状态
前端告警横幅：MySQL 连接失败时显示黄色告警横幅，阻止后续数据加载
修复 fetched_at 兼容问题：Unix 整数时间戳改为 MySQL TIMESTAMP 格式字符串
代码中文注释：app.py 所有函数/API/工具函数添加完整中文文档注释；fetch_data.py 所有建表语句添加列级中文注释
技术文档 docs/TECHNICAL_DOC.md：项目概述、系统架构图、数据流设计、15 个 API 接口详情、部署指南
元数据文档 docs/METADATA_DOC.md：18 张表完整字段说明、索引设计、表关系 ER 图、数据类型规范
Git 提交：dev 分支提交 → master 分支 --no-ff 合并

3.3 KiB Raw Blame History Unescape Escape

2026-07-17 工作日志

微信读书数据展示网站

功能迭代（第二批）

MySQL 迁移

第三批功能迭代（MySQL 切换 + 文档 + 告警）

3.3 KiB

Raw Blame History