知识图谱-实战演练：从零构建A股投资图谱

1. 为什么需要A股投资知识图谱在金融投资领域信息就是财富。但A股市场有4000多家上市公司每天产生的公告、财报、行业数据等信息量巨大。传统的数据表格和简单查询很难快速发现隐藏在数据背后的关联关系。举个例子你想知道某家公司的董事长是否同时在竞争对手公司任职某个热门概念板块中有多少家公司是ST股票某个行业的平均高管年龄是多少这些问题用传统数据库查询需要编写复杂的SQL而知识图谱可以像查字典一样快速找到答案。去年我帮一个私募基金搭建投资分析系统时用知识图谱将他们的研究效率提升了3倍。2. 数据准备与爬取实战2.1 获取上市公司基础数据我们主要需要三类数据公司高管信息姓名、职务、年龄等行业分类数据概念板块数据推荐使用Tushare Pro接口获取数据需要注册获取tokenimport tushare as ts pro ts.pro_api(你的token) # 获取上市公司高管信息 df_executive pro.stk_managers() # 获取行业分类 df_industry pro.stock_basic(exchange, list_statusL) # 获取概念分类 df_concept pro.concept()2.2 数据清洗技巧原始数据往往存在以下问题需要处理高管姓名中的特殊字符如·公司名称中的ST/*ST标记行业分类的层级关系这是我常用的清洗函数def clean_company_name(name): st_markers [ST, *ST, SST, S*ST] for marker in st_markers: if name.startswith(marker): return name.replace(marker, ).strip() return name def clean_executive_name(name): return name.replace(·, ).replace(,, )3. 知识图谱建模设计3.1 实体关系模型我们的图谱包含4类实体和3类关系实体类型公司(Company)股票代码、名称、是否ST人员(Person)姓名、性别、年龄行业(Industry)行业名称概念(Concept)概念名称关系类型任职关系(EMPLOYED_IN)高管与公司间的关系包含position属性行业归类(IN_INDUSTRY)公司与行业的关系概念归类(HAS_CONCEPT)公司与概念的关系3.2 数据转换实战需要将原始数据转换为Neo4j可导入的CSV格式。关键点是生成全局唯一的节点IDimport hashlib def generate_id(*fields): concat_str ,.join(str(f) for f in fields) return hashlib.md5(concat_str.encode()).hexdigest() # 示例生成人员ID person_id generate_id(张三, 男, 45)4. Neo4j数据库实战4.1 批量导入数据准备好以下CSV文件后使用neo4j-admin工具导入neo4j-admin database import full \ --nodesimport/companies.csv \ --nodesimport/persons.csv \ --nodesimport/industries.csv \ --nodesimport/concepts.csv \ --relationshipsimport/employment.csv \ --relationshipsimport/industry_rel.csv \ --relationshipsimport/concept_rel.csv4.2 实用Cypher查询示例查询1找出同时担任多家公司独立董事的人员MATCH (p:Person)-[r:EMPLOYED_IN]-(c:Company) WHERE r.position CONTAINS 独立董事 WITH p, count(c) as companies WHERE companies 1 RETURN p.name, companies查询2分析各行业高管平均年龄MATCH (i:Industry)-[:IN_INDUSTRY]-(c:Company)-[r:EMPLOYED_IN]-(p:Person) WHERE p.age 0 RETURN i.name, avg(p.age) as avg_age ORDER BY avg_age DESC5. 典型应用场景5.1 风险控制通过知识图谱可以快速识别高管兼职异常如在竞争对手公司任职ST公司概念炒作风险行业集中度风险// 查询有ST公司参与的概念板块 MATCH (c:Company)-[:HAS_CONCEPT]-(con:Concept) WHERE c:ST RETURN con.name, count(c) as st_companies ORDER BY st_companies DESC5.2 投资机会发现可以挖掘被低估的行业龙头概念板块中的优质标的高管团队稳定的公司// 查找锂电池概念中非ST的研发投入高的公司 MATCH (c:Company)-[:HAS_CONCEPT]-(:Concept{name:锂电池}) WHERE NOT c:ST AND c.rd_expense 100000000 RETURN c.name, c.rd_expense ORDER BY c.rd_expense DESC6. 性能优化技巧当数据量增大时需要注意建立索引CREATE INDEX FOR (c:Company) ON (c.code) CREATE INDEX FOR (p:Person) ON (p.name)查询优化避免全图扫描使用PROFILE分析查询计划限制返回结果数量定期维护CALL db.optimize()我在实际项目中发现合理的索引设计可以将查询速度提升10倍以上。特别是对于千万级节点的大规模图谱一定要在导入数据前就规划好索引策略。