计算机毕业设计师hadoop+spark+hive知识图谱医生推荐系统 医生数据分析可视化大屏 医生爬虫 医疗可视化 医生大数据 机器学习 大数据毕业设计

流程:
1.Python爬虫采集中华健康网约10万医生数据,最终存入mysql数据库;
2.使用pandas+numpy/hadoop+mapreduce对mysql中的医生数据进行数据分析,使用高德地图解析地理位置,并将结果转入.csv文件同时上传到hdfs文件系统;
3.使用hive建库建表,导入.csv数据集;
4.一半指标使用离线数仓hive_sql分析,一半指标使用实时数仓实时计算Spark之Scala实现;
5.使用sqoop将分析指标导入mysql数据库;
6.使用Flask+echarts实现可视化大屏界面;
创新点:高德地图解析地理位置、海量医生数据、Python爬虫、炫酷可视化大屏
选装:可选装知识图谱、推荐系统、预测系统、后台管理等

核心算法代码分享如下:

package com.bigdata.storm.kafka.util;

import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig;

/**
 * @program: storm-kafka-api-demo
 * @description: redis工具类
 * @author: 小毕
 * @company: 清华大学深圳研究生院
 * @create: 2019-08-22 17:23
 */
public class JedisUtil {
    
    /*redis连接池*/
    private static JedisPool pool;
    
    /**
    *@Description: 返回redis连接池
    *@Param: 
    *@return: 
    *@Author: 小毕
    *@date: 2019/8/22 0022
    */
    public static JedisPool getPool(){
        if(pool==null){
            //创建jedis连接池配置
            JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
            //最大连接数
            jedisPoolConfig.setMaxTotal(20);
            //最大空闲连接
            jedisPoolConfig.setMaxIdle(5);
            pool=new JedisPool(jedisPoolConfig,"node03.hadoop.com",6379,3000);
        }
        return pool;
    }

    public static Jedis getConnection(){
        return getPool().getResource();
    }

/*    public static void main(String[] args) {
        //System.out.println(getPool());
        //System.out.println(getConnection().set("hello","world"));
    }*/






    
    
}

相关推荐

最近更新

  1. TCP协议是安全的吗?

    2024-06-13 08:30:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-06-13 08:30:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-06-13 08:30:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-06-13 08:30:03       20 阅读

热门阅读

  1. 深入理解JVM类加载器与双亲委派模型机制

    2024-06-13 08:30:03       6 阅读
  2. Apache 网站服务基础

    2024-06-13 08:30:03       4 阅读
  3. Ubuntu根分区在线扩容

    2024-06-13 08:30:03       8 阅读
  4. 小程序中的模版语法

    2024-06-13 08:30:03       5 阅读
  5. [Linux] Screen的简单使用与中途退出保持运行

    2024-06-13 08:30:03       6 阅读
  6. 四、Nginx配置文件-负载均衡

    2024-06-13 08:30:03       7 阅读
  7. 如何在命令行判断node.js启动了没有

    2024-06-13 08:30:03       9 阅读