核密度分析

大家好，欢迎来到IT知识分享网。

一.算法介绍

核密度估计（Kernel Density Estimation）是一种用于估计数据分布的非参数统计方法。它可以用于多种目的和应用，包括：

• 数据可视化：核密度估计可以用来绘制平滑的密度曲线或热力图，从而直观地表示数据的分布情况。它可以帮助我们观察数据集中的高密度区域、低密度区域以及变化趋势。
• 异常检测：通过核密度估计，我们可以识别数据中的异常点或离群值。异常点通常表现为低密度区域或与其他数据点明显不同的区域。
• 概率密度计算：核密度估计可以用于计算给定数值的概率密度。通过将新数据点带入核密度估计函数，可以估计出该点在数据分布中的密度。
• 模式识别：核密度估计可以用于识别数据中的模式或聚类。通过观察密度最高的区域，可以推断数据的聚类情况或潜在的模式。
• 预测建模：核密度估计可以用于构建概率模型，进而进行预测。例如，在分类问题中，可以使用核密度估计来估计每个类别的概率密度，然后根据新的数据点所属的密度来进行分类预测。

二.算法计算原理

本算法以四次核函数为基础，四次核函数的特点是具有平滑的曲线形状，具有较宽的窗口，对数据点的贡献在距离较远时会迅速减小。由于其平滑性和较大的支持范围，四次核函数在核密度估计中被广泛使用。

 / * 计算单个核密度 * @param radius 半径 * @param dist 两点的距离 * @param weight 权重 * @return */ public static double computeKernel(double radius, double dist, double weight){ 
    return (3 / Math.PI) * weight * Math.pow((1 - Math.pow(dist / radius,2)), 2); } 

创新性说明:

• 1.算法会自适应数据中的空间点位范围，此范围可根据参数bufferSize 设置缓冲区扩展，以获取数据范围外的点参与计算。
• 2.根据空间范围每隔特定步长创建虚拟点位或划分网格，灵活性较高，步长越小则结果在地图分布上的精度越高，步长参数step(米) 可选，如果没有设置， 则默认在空间范围内自适应创建一百万左右虚拟点或网格。
• 3.采用多线程的方式进行核密度计算，速度更快。
• 4.可将结果值进行归一化处理，核密度计算出来的结果值主要用于观察数据分布，但是各个结果值之间相差范围较大，不易观察数据分布，归一化后能更清晰观察不同区域间的分布情况。
• 5.可根据核密度值的大小根据不同需求生成热力图或 geojson 文件。可在geojson文件上做进一步探索。

三.算法程序

1. 核心流程代码

从csv中获取源数据点信息, 获取坐标范围，如果需要缓冲区, 则设置缓冲区， 获取步长长度（默认一百万个像素点或网格），然后根据核密度信息创建图片或geojson

 // 输入文件路径 String inputPath ="D:\\测试数据.csv"; // 输出文件路径 String outPath ="D:\\测试数据.geojson"; // String outPath ="D:\\测试数据.jpg"; // 经度字段 String lonKey = "lon"; // 纬度字段 String latKey = "lat"; // 权重字段 String weightKey = ""; // 影响半径 double radius = 300.0; // 缓冲区 double bufferSize = 0.1; // 生成的网格长度(单位: 米) int step = 0; int type; if (outPath.endsWith("png") || outPath.endsWith("jpg")){ 
    type = 0; }else if (outPath.endsWith("geojson")){ 
    type = 1; }else { 
    throw new RuntimeException("输出文件格式只能是 png、jpg 或者 geojson"); } // 从csv中获取源数据点信息 List<EntryPoint> entryPoints = EntryPoint.formatToEntryPoints(inputPath, lonKey, latKey, weightKey, radius); // 获取坐标范围 double[] coordsScope = KernelUtils.getCoordsScope(entryPoints); // 如果需要缓冲区, 则设置缓冲区 if (bufferSize != 0){ 
    coordsScope = KernelUtils.getBufferScope(coordsScope[0], coordsScope[1], coordsScope[2], coordsScope[3], bufferSize); } // 获取默认的步长长度, 默认一百万个像素点或网格 if (step ==0){ 
    step = KernelUtils.getDefaultSize(coordsScope); } // 根据核密度信息创建图片或geojson kernel(coordsScope, entryPoints, step, radius, type, outPath); 

 / * 核密度方法 * @param coordsScope 坐标范围 * @param entryPoints 从csv中获取源数据点信息 * @param step 步长长度 * @param radius 影响半径 * @param type 输出文件类型 */ public static void kernel(double[] coordsScope, List<EntryPoint> entryPoints, int step, double radius, int type, String path){ 
    // 获取网格坐标系的lon, lat的列表 List<Double[]> coords = KernelUtils.getKennelPointCoords(coordsScope[0], coordsScope[1],coordsScope[2],coordsScope[3], step); Progress.progress( progress++); int width = coords.get(0).length; int high = coords.get(1).length; if (type == 1){ 
    // 生产 geojson 网格结果 generatorGridGeojson(coords, entryPoints, width-1, high-1, radius, path, step); }else { 
    // 生产热力图图片 generatorThermalMap(coords, entryPoints, width, high, radius, path, step); } } 

2.创建面的 geojson 文件

 / * 根据核密度信息创建面的 geojson 文件 * @param coords 虚拟数据点经纬度列表 * @param entryPoints 数据点 * @param width 横向点位数量 * @param high 纵向点位数量 * @param radius 影响半径 */ public static void generatorGridGeojson(List<Double[]> coords, List<EntryPoint> entryPoints, int width, int high, double radius, String path, int step){ 
    // 获取所有中心点位的数据 List<PixelPoint> pixelPoints = KernelUtils.getGridCenters(coords); // 进行核密度计算, 并记录受到影响的网格信息 KernelResult kernelResult = kernelCompute(entryPoints, pixelPoints, width, high, radius); Double[][] matrix = kernelResult.getMatrix(); Double max = kernelResult.getMax(); Double min = kernelResult.getMin(); // 生产面的 geojson 文件 writeToFile(KernelUtils.jointGridGeojson(matrix, max, min, coords), path); System.out.println(String.format("计算完成, 生成 geojson 文件, 参与计算网格 %d 个, 受影响网格 %d 个, 相邻网格间距 %s 米", pixelPoints.size(), KernelUtils.effectiveGrid, step)); } 

3.热力图图片

 / * 根据核密度信息创建热力图图片 * @param coords 虚拟数据点经纬度列表 * @param entryPoints 数据点 * @param width 横向点位数量 * @param high 纵向点位数量 * @param radius 影响半径 */ public static void generatorThermalMap(List<Double[]> coords, List<EntryPoint> entryPoints, int width, int high, double radius, String path, int step){ 
    // 获得所有点位 List<PixelPoint> pixelPoints = KernelUtils.spliceKennelPoints(coords); // 进行核密度计算, 并记录受到影响的网格信息 KernelResult kernelResult = kernelCompute(entryPoints, pixelPoints, width, high, radius); Double[][] matrix = kernelResult.getMatrix(); Double max = kernelResult.getMax(); Double min = kernelResult.getMin(); // 生产热力图 ImageGenerator.generatorImage(matrix, max, min, path); System.out.println(String.format("计算完成, 生成图片 像素: %d x %d, 相邻像素点实际代表距离 %s 米", width, high, step)); } 

4.计算所有点位的核密度

 / * 计算所有点位的核密度 * @param entryPoints 数据点信息 * @param pixelPoints 创建的虚拟像素点 * @param radius 影响半径 * @return */ public static KernelResult kernelCompute(List<EntryPoint> entryPoints, List<PixelPoint> pixelPoints, int width, int high, double radius){ 
    List<Double> values = new ArrayList<>(); double affectLat = KernelUtils.getLatDist(radius); // 记录受到影响的网格 Double[][] matrix = new Double[high][width]; // 建立线程池 ThreadPoolExecutor threadPool = new ThreadPoolExecutor( 30, 30, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue(Integer.MAX_VALUE)); // 线程等待计数器 CountDownLatch countDownLatch = new CountDownLatch(pixelPoints.size()); // 创建锁, 使计算数据具有线程间可见性 Lock lock = new ReentrantLock(); int stepPosition = pixelPoints.size() / 75; for (int i = 0; i < pixelPoints.size(); i++){ 
    PixelPoint pixelPoint = pixelPoints.get(i); Double kennelLon = pixelPoint.getLon(); Double kennelLat = pixelPoint.getLat(); threadPool.execute(() -> { 
    // 开始计算每个网格受到其他所有点所影响的核密度 double kernel = 0.0; for (int j = 0; j < entryPoints.size(); j++){ 
    EntryPoint entryPoint = entryPoints.get(j); double lon = entryPoint.getLon(); double lat = entryPoint.getLat(); if (Math.abs(lon - kennelLon) > entryPoint.getAffectLon() || Math.abs(lat - kennelLat) > affectLat){ 
    continue; } // 获取权重, 默认为 1.0 double weight = 1.0; if (entryPoint.getWeight() != null){ 
    weight = entryPoint.getWeight(); } // 计算网格中心点与源数据点的距离 double distance = KernelUtils.getDistance(lon, lat, kennelLon, kennelLat); // 影响半径大于距离的点直接去掉 if (distance <= radius){ 
    // 计算每个网格所受影响的核密度 kernel += computeKernel(radius, distance, weight); } } lock.lock(); // 为中心点实体类赋予核密度的值 Double value = 1 / Math.pow(radius, 2) * kernel; matrix[pixelPoint.getI()][pixelPoint.getJ()] = value; values.add(value); lock.unlock(); countDownLatch.countDown(); if (countDownLatch.getCount() % stepPosition == 0 && progress < 80){ 
    Progress.progress(progress++); } } ); } // 等待所有任务执行完毕 try { 
    countDownLatch.await(); } catch (InterruptedException e) { 
    throw new RuntimeException(e); } // 关闭线程池 threadPool.shutdown(); return new KernelResult(matrix, Collections.max(values), Collections.min(values)); } 

5.可执行 jar 包

执行示例:

java -jar kernel.jar 杭州市超市营业额.csv 杭州市超市营业额热力.jpg 经度 纬度 利润 2000.0 0.1 0 java -jar kernel.jar 杭州市超市营业额.csv 杭州市超市营业额分布.geojson 经度 纬度 利润 2000.0 0.1 0 java -jar kernel.jar 测试数据.csv 测试数据.jpg lon lat "" 300.0 0.1 0 java -jar kernel.jar 测试数据.csv 测试数据.geojson lon lat "" 300.0 0.1 0 

四.执行结果展示

平台分析示例:

杭州市超市营业额区域性分析-热力图:

五、应用场景

1. 金融风险评估：核密度算法可以用于评估某种投资方式的风险程度。将历史数据输入核密度估计器中，可以得出该投资方式在不同风险水平下的收益概率密度分布。这有助于金融机构更好地了解风险和收益之间的平衡。
2. 生态学：核密度算法可用于研究动植物的栖息地和迁徙模式。将动植物的观察数据输入核密度估计器中，可以得出它们在不同地点出现的概率密度分布，帮助科学家更好地了解动植物的栖息地范围和活动规律。
3. 交通流量预测：核密度算法可以用于预测道路上的交通流量。将历史交通流量数据输入核密度估计器中，可以得出在不同时间段内和不同位置上的交通流量概率密度分布。这有助于交通管理人员更好地规划道路、优化路线和管理交通拥堵。
4. 模式识别：核密度算法可以使用于人脸识别、图像处理等领域。将输入数据的特征值输入核密度估计器中，可以得出不同特征值下相应数据的概率密度分布。这可用于识别图像中不同物体的特征值，例如人脸的轮廓和眼睛的位置，从而实现自动化识别。

下载地址: 核密度分析