情感分析:
◦ 采集源: 主流财经媒体网站、客户端推送的新闻标题和摘要。通过网页爬虫(遵守Robots协议,控制频率)或购买专业的新闻舆情数据API。
◦ 处理流程: 爬取新闻文本 -> 文本清洗(去除HTML标签、无关字符) -> 中文分词 -> 情感词典匹配与机器学习情感分析模型判断。陆孤影结合现有的开源中文情感词典(如知网Hownet、大连理工大学情感词汇本体),并针对金融文本特点(如“利好”、“利空”、“暴涨”、“暴跌”、“看好”、“谨慎”等词汇)进行了扩充和加权。同时,他训练了一个简单的基于神经网络的文本分类模型,用于判断新闻标题/摘要的情感倾向(积极、消极、中性)。
◦ 输出: 生成“新闻情绪指数”,可以按时间(如每小时)统计积极新闻、消极新闻的比例和数量变化,也可以对不同媒体(如官媒、券商研报、财经自媒体)进行分别统计,观察情绪差异。
2. 社交媒体与股票论坛舆情监控:
◦ 采集源: 选取用户活跃、代表性强的股票论坛(如东方财富股吧、雪球等)、财经垂直社交媒体。通过其公开API(如有)或基于HTTP请求的爬虫,定向抓取热门帖子列表、帖子内容、回复、以及阅读数、点赞数、转发数等互动数据。严格注意频率控制,避免对目标服务器造成压力,并遵守相关法律法规和数据使用规范。
◦ 处理流程: 这是真正的挑战。论坛文本噪音极大,包含大量无意义的灌水、表情符号、谐音、网络用语、甚至是故意误导的信息。陆孤影设计了一套复杂的清洗和分析流程:
▪ 热度分析: 计算不同股票、板块的讨论热度(发帖量、回复量、阅读量),识别市场关注焦点。
▪ 关键词提取与情感分析: 除了通用的情感分析,他更关注能直接反映市场情绪的特定金融情感关键词。他建立了两套词库:
▪ 贪婪/乐观词库: 如“牛市”、“涨停”、“主升浪”、“十倍”、“抄底”、“满仓干”、“发财”、“牛市起点”、“格局”、“锁仓”、“价值投资”(在特定语境下可能被滥用)等。
▪ 恐惧/悲观词库: 如“熊市”、“跌停”、“割肉”、“清仓”、“销户”、“套牢”、“崩盘”、“股灾”、“救市”、“跑路”、“绝望”、“关灯吃面”等。
▪ 通过统计这些关键词在单位时间窗口内出现的频率、密度,
本章未完,请点击下一页继续阅读!