数据
【大数据】Spark On Yarn 理解（图文）
基本架构 1：ResourceManager（资源管理器）：ResourceManager是YARN的核心组件，负责管理和分配集群资源。它接收来自Spark应用程序的资源请求，并根据可用资源情况进行分配和调度。 2：NodeManager（节点管理器）：NodeManager是每个节点上的代理程序， ......
数据安全？部署成本？看CSaaS架构如何巧妙破解数字孪生两难局面
随着数字化转型进程的逐步推进，数字孪生这一技术也开始让各行各业开始重视。诚然，数字孪生在提高安全性、降低成本、改进决策过程和优化产品设计等方面拥有巨大潜力，但其在部署方面面临的两难处境仍然是目前的一大痛点。下面就让我们来看一看数字孪生在部署上遇到的两难局面，以及CSaaS架构是如何突破这一局面 1. ......
半导体即国家，日本做了啥？最大的 AI 模型并不十分透明；特斯拉安全数据报告缺失近一年丨 RTE 开发者日报 Vol.70
开发者朋友们大家好： 这里是「RTE 开发者日报」，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE （Real Time Engagement） 领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有看点的会议」，但内容仅代表编辑的个人观点，欢迎大家留 ......
JSON 返回数据命名不规范问题
问题描述 后端代码如下： @Data public class UserDto { private String mUserName; private String mPassword; } @RestController @Slf4j public class UserController { @ ......
大数据技术之DataX
一、DataX简介 DataX 是阿里巴巴开源的一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 二、DataX架构原理 为了解决异构数据源同步问题，DataX将复杂的网 ......
celery包结构、celery延迟任务和定时任务、django中使用celery、接口缓存、双写一致性、异步秒杀逻辑、课程列表页前端、课程相关表、课程表数据录入、课程列表页接口
celery包结构 project ├── celery_task # celery包 这个包可以放在任意位置 │ ├── __init__.py # 包文件 │ ├── celery.py # celery连接和配置相关文件，且名字必须叫celery.py │ └── tasks.py # 所有任 ......
MSSQL生成数据库字典脚本
SELECT 表名=case when a.colorder=1 then d.name else '' end, --表名=d.name, --表说明=case when a.colorder=1 then isnull(f.value,'') else '' end, --字段序号=a.colo ......
小景的Dba之路--如何导出0记录表以及数据泵的使用
小景最近在系统压测相关的工作，其中涉及了数据备份导出的操作。今天的问题是：exp命令不会导出0记录表，那么我们探讨下如何导出0记录表以及数据泵的使用。 首先，我们先刨析一下问题现象及原因： 在 Oracle 中，使用传统的 `exp` 命令进行导出通常不会导出0记录的表，即那些不包含任何数据的表。这 ......
vue 组件之间的数据传递
一、组件之间的关系 父子关系、兄弟关系、跨级关系 二、父子之间数据传递 1、父组件向子组件传递【使用 props】 第一步：在父组件中使用子组件时，给子组件绑定属性 第二步：在子组件中使用props接收绑定的属性值 2、子组件向父组件传递【使用 $emit】 第一步：在子组件中通过$emit触发指定 ......
ASP.NET 定时发送邮件以及将数据库的数据以table形式发送
1：代码写在Global.aszx中，系统自动运行 2:对Send()方法进行编辑，设定发送的时间、发送邮箱和接收邮箱 public void Send(object sender, System.Timers.ElapsedEventArgs e) { SqlConnection myconn = ......
excel导入数据库-摘抄
假如excel表格中有A、B、C三列数据，希望导入到数据库users表中，相应的字段各自是name,sex,age ,在你的excel表格中添加一列。利用excel的公式自己主动生成sql语句，方法例如以下： 1、在你的excel表格中添加一列 2、在第一行的D列，就是D1中输入公式： =CONCA ......
MJ和网络数据批量重命名
import osimport openpyxlimport reUNWANTED_UNITS = ["undefined", "皮皮", "zly324"]# 第一步：删名称def rename_files(path): files = [f for f in os.listdir(path) i ......
数据库相关概念
数据库系统相关概念 数据库优点 数据持久性（Data Persistence）： 数据库系统可以将数据永久存储在磁盘上，即使系统关闭或断电，数据也不会丢失。 数据共享和多用户访问（Data Sharing and Multi-User Access）： 多个用户可以同时访问数据库，而不会发生冲突，这 ......
如何保持数据一致性
如何保持数据一致性 数据库和缓存（比如：redis）双写数据一致性问题，是一个跟开发语言无关的公共问题。尤其在高并发的场景下，这个问题变得更加严重。 以下是我无意间了解很好的文章，分享给大家。 1. 常见方案 通常情况下，我们使用缓存的主要目的是为了提升查询的性能。大多数情况下，我们是这样使用缓存的 ......
数据库基本概念
数据库基本概念 记录 (record) 码/键 (keys) 索引 (indexes) 一致性 (consistency) 规范化 (normalization) 外码/关键字 (foreign keys) 联系 (relationships) 基数 (cardinality) 查询语句 查询优化和 ......
DataWhale DAY3 数据类型和操作
DataWhale DAY3 数据类型和操作 写在前面的：python 基本操作统一放在 https://www.cnblogs.com/hewo/p/17635277.html 本文放一些有意思的东西 首先 味大的 python 提供了很是自动的 动态类型。 对象性质 作为一个 面向对象的语言，p ......
基于 KubeSphere 部署 KubeBlocks 实现数据库自由
作者：尹珉， KubeSphere Contributor & Ambassador，KubeSphere 社区用户委员会杭州站站长。 KubeSphere 是什么？ KubeSphere 是在 Kubernetes 之上构建的面向云原生应用的分布式操作系统，完全开源，支持多云与多集群管理，提供全栈 ......
研发日常踩坑-Mysql分页数据重复
写分页查询接口，order by和limit混用的时候，出现了排序的混乱情况 在进行第N页查询时，出现与第一前面页码的数据一样的记录。 ......
数据的新维度：可视化地理信息的时代已来
倾斜摄影与可视化的结合正在改变我们对地理信息的认知方式。它使地理数据更加生动、易于理解，同时为各行各业的专业人员提供了更多可能性。 ......
某全球领先的芯片供应商：优化数据跨网交换流程，提高安全管控能力
1、客户介绍 某全球领先的芯片供应商，成立于2005年，总部设于北京，在国内上海、深圳、合肥等地及国外多个国家和地区均设有分支机构和办事处，致力于为客户提供更优质、便捷的服务。 2、建设背景 该公司基于网络安全管理的需求，将内部网络划分为研发网、测试网及非研发网（办公网）三个互相逻辑隔离的网络区域， ......
MyBatis Plus 达梦数据库 分页查询异常问题
MyBatis Plus 达梦数据库 分页查询异常问题 一、问题背景 根据博客《SpringBoot MyBatis Plus 整合 达梦数据库》中提到分页查询问题，如果没有配置 MybatisPlusConfig.java 文件，会出现如下现象： 数据表 PRODUCTION.PRODUCT_CA ......
mysql三种方案优化 2000w 数据大表
摘录自 当我们业务数据库表中的数据越来越多，如果你也和我遇到了以下类似场景，那让我们一起来解决这个问题 数据的插入,查询时长较长 后续业务需求的扩展 在表中新增字段 影响较大 表中的数据并不是所有的都为有效数据 需求只查询时间区间内的 评估表数据体量 我们可以从表容量/磁盘空间/实例容量三方面评估数 ......
循序渐进介绍基于CommunityToolkit.Mvvm 和HandyControl的WPF应用端开发(10) -- 在DataGrid上直接编辑保存数据
有时候，一些数据的录入可能需要使用表格直接录入会显得更加方便快捷，这种情况有时候也是由于客户使用习惯而提出，本篇随笔介绍在WPF应用端上使用DataGrid来直接新增、编辑、保存数据的处理。
录入数据的时候，我们都采用在一个窗体界面中，根据不同内容进行录入，但是有时候涉及主从表的数据录入，从表的数据... ......
使用JDBC操作数据库基本操作步骤
书写jdbc需要四大要素：用户名、密码、URL、驱动 String url = "jdbc:mysql://localhost:3306/test"; String username = "root"; String password = "root"; String driver = "com.m ......
【大数据】Spark部署与启动（文档）
Python 环境准备 Anaconda3： https://pan.baidu.com/s/1e4Wx48RsW0Pm_saotxTW4A?pwd=66ki [root@test1 ~]# cd /export/ [root@test1 export]# rz # 上传源文件包 [root@tes ......
数据库连接池
//开启预编译功能 String url = "jdbc:mysql://127.0.0.1:3306/db1?useSLL=false&useServerPrepStmts = true";盛connection的容器，标准接口:DataSource 1.在lib目录下添加jar包，右击添加为库 ......
将达梦数据库的JDBC驱动包 DmJdbcDriver18.jar 安装到本地 Maven 仓库
将达梦数据库的JDBC驱动包 DmJdbcDriver18.jar 安装到本地 Maven 仓库 一、问题背景 在 博客《SpringBoot MyBatis Plus 整合 达梦数据库》中写道，从 https://eco.dameng.com/download/ 中下载 达梦JDBC 驱动包，如下 ......
numpy的数据类型转换和数组广播
numpy对象的常用属性 第一种方法装好python，然后打开终端输入pip install jupyter（如果觉得速度慢可以加上镜像站 -i https://pypi.douban.com/simple/）,然后再输入pip install notebook (这里和前面一样，觉得慢就加镜像), ......
2023年10月中国数据库排行榜：墨天轮榜单前五开新局，金仓、亚信热度攀升
10月墨天轮中国数据库排行榜解读已发布！榜单前十变化较大、更是两年多来首次迎来新面孔，一起看看更多变化情况与解读！ ......
reids-数据类型
1、String类型操作 SET runoobkey redis GET runoobkey 2、列表 list类型操作 4、hash类型 3、set类型操作 4、有序集合(sorted set) ......