数据excel java
Quicker快速开发,简单的网页数据爬取(示例,获取天眼查指定公司基础工商数据)
前言 有某个线上项目,没有接入工商接口,每次录入公司的时候,都要去天眼查、企查查或者其他公开数据平台,然后手动录入,一两个还好说,数量多了的重复操作就很烦,而且,部分数据是包含超链接,一不注意就点进去,又多了一个步骤。 因此,我就用Quicker写了一个数据抓取脚本,用来抓取一些公开的工商数据,逻辑 ......
mongo-listener: 监听 mongo 数据变化的一个应用程序相关设计
mongo-listener 为了开放一些数据库变更信息, 需要监听数据库的数据变更, 之后将信息投递到信息队列中, 开放对应的端口, 供其他系统订阅. mongo 数据变更监听 对于数据库信息的变更, 或者说是数据异构, 也就是当数据源数据变更时, 另一个数据源可以接收到相关的变更信息进行处理, ......
Java解析json-简单应用
package org.example; import com.alibaba.fastjson.JSONObject; import java.io.*; public class Main { public static void main(String[] args) { String fil ......
mysql关联表查询最新的数据
mysql关联表查询最新的数据 select it.name,ns.id,it.id childId,it.id_card idCard,it.card_type cardType,it.birthday,ns.guardian guardian,ns.mother_phone motherPhon ......
阿里又开源一款数据同步工具 DataX,稳定又高效,好用到爆!
作者:愿许浪尽天涯 链接:https://juejin.cn/post/7077744714954309669 前言 我们公司有个项目的数据量高达五千万,但是因为报表那块数据不太准确,业务库和报表库又是跨库操作,所以并不能使用 SQL 来进行同步。当时的打算是通过 mysqldump 或者存储的方式 ......
自定义动态数据源
1.思路 1)自定义一个注解 @DataSource,该注解可以加在service层方法或者类上面,表示该方法或者类中的所有方法都是用某一个数据源。 2)如果某个方法上或类上有 @DataSource 注解,将该方法或类需要使用的数据源名称存入到ThreadLocal。 3)自定义切面,在切面中解析 ......
大数据之—dolphinscheduler海豚调度
前言 本文参考:https://blog.csdn.net/zhengzaifeidelushang/article/details/127841043 参考:https://blog.csdn.net/shuyv/article/details/128847853 参考:https://blog. ......
数据仓库SQL代码规范
1.命名规则: 数据库、表、列、索引等名称应使用有意义、易于理解和记忆的命名方式。 应使用小写字母和下划线,避免使用大写字母和特殊字符。 应避免使用保留字和关键字作为名称,或在名称前加上特定前缀或后缀以避免与保留字冲突。 2.编码风格: 应使用一致的缩进、空格、换行等格式规范,以提高代码的可读性。 ......
Redis保证缓存数据和数据库一致
1 Redis 在分布式环境下的数据一致性主要是通过以下几种方式来保证的: 主从复制:Redis 支持主从复制,当主节点有新的数据写入时,会自动同步到从节点,从节点与主节点的数据保持一致。 Sentinel 哨兵:Redis Sentinel 哨兵是 Redis 的高可用性解决方案,通过监控主节点的 ......
审查人员进行数据仓库SQL代码审查的指南
代码规范:审查人员需要确保SQL代码符合团队的代码规范。这包括代码缩进、代码注释、命名规则等。 SQL性能:审查人员需要检查SQL查询的性能。这包括检查是否使用了索引、是否存在冗余计算、是否使用了正确的连接方式等。 SQL正确性:审查人员需要检查SQL语句的正确性,确保SQL语句执行不会引发错误或意 ......
数据仓库是一个用于存储和管理企业数据的中央存储库,因此需要确保其中的代码质量。以下是几种保证数据仓库代码质量的方法:
代码审查:在数据仓库开发过程中,通过对代码的定期审查来检查潜在的错误和问题,并确保代码符合团队的开发标准和最佳实践。 自动化测试:实现自动化测试是确保代码质量的关键,包括单元测试、集成测试和端到端测试。这些测试可以检测代码的可靠性、性能和安全性等方面的问题,同时还可以快速检测到任何潜在的问题。 代码 ......
Vue2可以检测 引用数据类型 数组的响应式变化
在Vue2中,响应式基于Object.defineProperty实现的响应式,官方文档中明确说明 Vue 不能检测以下数组的变动: 当你利用索引直接设置一个数组项时,例如:vm.items[indexOfItem] = newValue 当你修改数组的长度时,例如:vm.items.length ......
几种高效的方法来进行数据仓库的code review
制定标准和规范: 在开发数据仓库的过程中,制定统一的代码规范和标准,确保所有开发人员都能按照这些规范和标准进行代码开发。这些标准和规范可以包括SQL语法、代码注释、命名规则、代码结构等。 审查指南: 在进行code review时,可以提供一份指南来帮助审查人员进行审查。这份指南可以列出常见的错误类 ......
MySQL创建数据库(CREATE DATABASE语句)
在 MySQL 中,可以使用 CREATE DATABASE 语句创建数据库,语法格式如下: CREATE DATABASE [IF NOT EXISTS] <数据库名> [[DEFAULT] CHARACTER SET <字符集名>] [[DEFAULT] COLLATE <校对规则名>]; [ ......
数据库事务总结
1、事务 事务指的是满足 ACID 特性的一组操作,可以通过 Commit 提交一个事务,也可以使用 Rollback 进行回滚。 ACID 原子性(Atomicity) 事务被视为不可分割的最小单元,事务的所有操作要么全部提交成功,要么全部失败回滚。 回滚可以用回滚日志(Undo Log)来实现, ......
Java stream 流
Java stream 流 中间操作 1、filter 作用:将流中的元素,基于自定义的比较器进行去重 方法定义 Stream<T> filter(Predicate<? super T> predicate); 说明:这个方法,传入一个Predicate的函数接口,关于Predicate函数接口定 ......
响应字符数据
响应字符数据: @WebServlet("/servletDemo3") public class HttpServletDemo3 extends HttpServlet { @Override protected void doGet(HttpServletRequest req, HttpSe ......
Android 使用ListView只显示一条数据
情况一:ListView外嵌套了ScrollView导致 情况二:没有使用ScrollView 解决:动态获取ListView的高度,并用代码设置。在adapter中setAdapter之后调用以下方法即可。 setListViewHeightBasedOnChildren()方法如下: publi ......
远程连接数据库时候报Mysql has gone away的错误
连接远程服务器的MySQL的时候报了The server has gone away的错误,网上找了很多方法都没发现问题 最后使用 sudo netstat -an | grep 3306 发现3306端口只运行在ipv6上,这下找到原因了, 一开始在设置对外开发远程登录的时候修改了/etc/mys ......
十大排序 Java实现
直接上代码 import java.util.ArrayList; import java.util.Collections; public class MySort { public static void main(String[] args) { MySort mySort = new MyS ......
[转]excel把合并单元格中的数据分拆到每一行
原文地址:https://cloud.tencent.com/developer/article/1444393 我们经常看到如下图所示的Excel表格: 这种表格,每一列的包含关系,人眼看起来一目了然。但是A列B列这种由多个单元格合并起来的单元格,在使用程序进行处理的时候却非常不方便。 如果要使用 ......
Java String 避免空指针的方法
1.方法1 判等时将变量作为参数或者使用TextUtils工具 "".equals(name) TextUtils.equals(name,null) 2.方法2 使用TextUtils工具 TextUtils.isEmpty(name) 3.使用try catch对异常进行捕获 try{ Log. ......
Java数组的动态初始化与静态初始化和常见问题
一、动态初始化数组的格式: 数据类型[] 数组名 = new 数据类型[数组长度]; 在创建的时候,由我们自己指定数组的长度,由虚拟机给出默认的初始化值。 数组默认的初始值规律: 1、整数类型:默认初始值0; 2、小数类型:默认初始值0.0; 3、字符类型:默认初始值'/u0000' (即空格); ......
java-策略模式的简单应用
我以我在实际项目中的应用举例 场景如下:MQTT收到消息之后,根据不同的标识(operator)去进行不同的处理 1.新建接口MqttCallBackService<T> public interface MqttCallBackService<T> { //形参的转换方法 T parseMessa ......
剑指 Offer 17. 打印从 1 到最大的 n 位数(java解题)
leetcode《图解数据结构》剑指 Offer 17. 打印从 1 到最大的 n 位数(java解题)的解题思路和java代码,并附上java中常用数据结构的功能函数。 ......
图数据库在中国移动金融风控的落地应用
本文整理自中国移动算法工程师——汪海涛在 NebulaGraph 2022 年度用户大会上的分享,现场视频见 B 站:https://www.bilibili.com/video/BV1Ae4y127a8/ 各位朋友上午好,我是来自中国移动的算法工程师汪海涛。接下来我主要聊一聊图数据库在中国移动,特 ......
java的流程控制——Scanner对象用法
java.util.Scanner是java5的新特征,我们可以通过Scanner类来获取用户的输入 基本语法 Scanner s=new Scanner(System.in); 通过Scanner类的next()与nextLine()方法获取输入的字符串,在读取前我们一般需要使用hasNext() ......
Java实现mock server
Mock Java实现mock有两种方式: servlet的Filter功能 spring的HandlerInterceptor Filter和HandlerInterceptor的区别: 这两者在功能方面很类似,但是在具体技术实现方面,差距还是比较大的。过滤器和拦截器都属于面向切面编程的具体实现。 ......