广域网 链路 计算机网络 数据
MySQL与Redis数据双写一致性工程落地案例
复习-面试题 多个线程同时去查询数据库的这条数据，那么我们可以在第一个查询数据的请求上使用一个 互斥锁来锁住它。 其他的线程走到这一步拿不到锁就等着，等第一个线程查询到了数据，然后做缓存。 后面的线程进来发现已经有缓存了，就直接走缓存。 canal canal [kə'næl]，中文翻译为 水道/管 ......
【专题】2023中国数字平台开放性指数研究报告PDF合集分享（附原数据表）
原文链接：https://tecdat.cn/?p=34786 原文出处：拓端数据部落公众号 在数字平台的开放性持续向好的背景下，交易和转移两个方面成为推动数字平台总体开放性不断提升的主要动力。然而，接入和退出维度仍然是限制数字平台总体开放性的重要因素。电商交易平台的整体开放性平均得分最高，而社交媒 ......
课时04：了解HTTP网络协议
什么是HTTP协议 HTTP(HyperText Transfer Protocol）叫超文本传输协议，它是web服务器和客户端直接进行数据传输的规则，是一个无状态的应用层协议。 HTTP协议工作原理 推荐书籍：图解HTTP ......
关于大数据平台上任务管理的思考
本文于2019年7月16日完成，发布在个人博客网站上。 考虑个人博客因某种原因无法修复，于是在博客园安家，之前发布的文章逐步搬迁过来。 作业，比如提交一个hive脚本到计算平台上运行，这个脚本宏观上称为一个作业。 任务，比如mapper，reducer等。 资源，比如CPU时间，内存，硬盘IO，网络 ......
Python Pandas 数据可视化
1、Pandas 的绘图功能 Pandas 内置的绘图功能进行数据可视化是一种快速且有效的方法，它主要依赖于 Matplotlib 库。Pandas 提供了多种绘图类型，适用于不同的数据分析和可视化需求。 1）折线图 使用plot()绘制拆线图，常用参数如下， 参数 描述 x 一维数组或列表，表 ......
【Application Insights】使用CURL命令向Application Insgihts发送测试数据
问题描述 在使用App Service或者Kubernetes等服务时，需要收集一些日志数据并且发送到Application Insights中，当使用SDK或者是服务自带的Application Insights配置时遇见问题，有没有快速的调试方式能验证App Service是否与Applicat ......
MyBatis—Spring 动态数据源事务的处理
在一般的 Spring 应用中，如果底层数据库访问采用的是 MyBatis，那么在大多数情况下，只使用一个单独的数据源，Spring 的事务管理在大多数情况下都是有效的。然而，在一些复杂的业务场景下，如需要在某一时刻访问不同的数据库，由于 Spring 对于事务管理实现的方式，可能不能达到预期的效果 ......
5-6虚拟机的网络配置及远程登录
网络配置 桥接模式 虚拟机和物理机的地位相同。虚拟机的网络接口与物理网络的接口相连，就像是连接到同一网络中的两个物理设备一样。虚拟机可以获得和物理网络相同的IP地址范围，并能直接与物理网络中的其他设备通信。 虚拟机的网卡就是VMware1 NAT模式 物理机虚拟出一个NAT服务器，建立一个虚拟的局域 ......
高级数据结构笔记
树套树 顾名思义，就是一个树套一个树。。。 广义的树套树是指嵌套多层的数据结构。常见的有：线段树套线段树（二维线段树），线段树套平衡树（“二逼平衡树”），分块套平衡树，树状数组套线段树（带修主席树）等等。 在这里，由于 set，map 等 STL 内部实现是平衡树，因此将这些 STL 的嵌套也算作树 ......
期末云计算基础架构平台实操题
1.docker sudo yum remove docker \ docker-client \ docker-client-latest \ docker-common \ docker-latest \ docker-latest-logrotate \ docker-logrotate \ ......
[python]沪深龙虎榜数据导入通达信的自选板块，并标注于K线图上
1 #coding=utf-8 2 3 #读取'[paint]'开头的csv文件 4 #copyright @ WangXinsheng 5 #http://www.cnblogs.com/wangxinsheng/ 6 import os 7 import struct 8 import time ......
为什么建筑设计师选择网络渲染"效果图"
网络渲染一般是指：云渲染，建筑设计行业通常需要渲染室内、室内等场景的效果图，一般大型场景渲染时非常消耗电脑算力，并且渲染时长也会通过效果图的场景、尺寸等来决定，本文为用户整理建筑设计师选择网络渲染的原因，希望对大家有一定的帮助！ 效果图通常是指什么？ 效果图广泛应用于建筑设计、室内设计、游戏开发、动 ......
计算机系统基础
目录计算机系统实际机器虚拟机器存储系统层次化存储结构高速缓存映像方式同步方式页面淘汰算法磁盘管理移臂调度算法磁盘优化分布磁盘单缓冲区与双缓冲区读取Flynn分类法指令集复杂指令集（CISC）精简指令集（RISC）流水线流水线执行时间计算流水线吞吐率计算流水线加速比计算性能指标可靠性或可用性处理能力或 ......
深度学习图像复原之去雨：常用数据集介绍
可能有帮助的链接：https://paperswithcode.com/task/single-image-deraining 合成数据集 Rain100H 出自 CVPR 2017 论文 Deep Joint Rain Detection and Removal from a Single Ima ......
中国的高校计算机教育存在哪些问题？
中国的高校计算机教育存在哪些问题？ 深度学习/量化交易/理论物理学/计算社会学 1.校园网不带梯子 2.不教git，make等现代工具链 3.代码量不足，课程报告过多，杂七杂八的课太多，比如物理实验 4.教材老旧，ppt跟着老旧，念他的人不免的也老旧。 5.核心课程缺失或者不重视，比如编译原理，有的 ......
Oracle、达梦：☆获取数据库对象、获取对象的DDL定义语句(达梦)
一、获取数据库对象(Oracle、达梦) 以下方式在达梦DM数据库中都能跑通，Oracle未测试所有的方式。 1、获取对象（表、视图、函数等……） 1.1、获取所有对象——所有模式下的 ①、ALL_OBJECTS视图 数据库所有对象表：包括表、视图、物化视图、函数、存储过程……等 -- 查询所有对象 ......
【计算机网络】5.网络层：控制平面
1 路由选择算法 路由：按照某种指标(传输延迟,所经过的站点数目等)找到一条从源节点到目标节点的较好路径 以网络为单位进行路由（路由信息通告+路由计算） 一个网络使用的节点地址前缀相同，且物理上聚集 路由：计算一个网络到另一个网络的路径 路由选择算法（routing algorithm）：网络层软件 ......
C# 使用protobuf序列化反序列化数据
protobuf是谷歌的一个序列化数据结构的协议，性能高，存储占用小 经过我的测试对比 1，最慢的是C#内置的BinaryFormatter，这个玩意能不用则不用 2，然后是json，用起来很方便，比BinaryFormatter快了1-2倍 3，接下来就是protobuf，不过需要给类的成员加上特 ......
Hive 数据写入流程
概念简介 外部表：删除表时，外部表只删除元数据,不删除数据。适用于数据源被多处使用的场景，便于数据共享。 内部表：删除表时，内部表的元数据和数据会被一起删除。适用于不需要共享的原始数据或中间数据。 分区表：数据较多，为提高计算速度时使用。 内部表&外部表写入流程图 具体流程Demo 以外部表为例： ......
hive分区表数据导入
数据库分区的主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减响应时间，主要包括两种分区形式：水平分区与垂直分区。水平分区是对表进行行分区。而垂直分区是对列进行分区，一般是通过对表的垂直划分来减少目标表的宽度，常用的是水平分区. 1. hive建立分区表 create external ta ......
Hive 复杂数据类型Array，Map，Struct
建表语句，支持嵌套 CREATE TABLE parquet_test ( id int, str string, mp MAP<STRING,STRING>, lst ARRAY<STRING>, strct STRUCT<A:STRING,B:STRING>) PARTITIONED BY (p ......
Hive写入JSON数据
优缺点： 1.JsonSerDe对json数据格式有严格要求，创建的表结果必须与json结构能对应上，否则会报错。 配置 org.openx.data.jsonserde.JsonSerDe 能解决格式异常报错导致整个任务终止的问题。 必须定义好详细字段嵌套的规则类型，不适合提取ODS原文。 2.g ......
Hive Array数据处理
建表 CREATE TABLE IF NOT EXISTS default.array_test( id String COMMENT 'id', name Array<String> COMMENT '名称' ) COMMENT 'array测试' ROW FORMAT DELIMITED FIE ......
vue实现虚拟滚动（面试题：后端给你十万条数据，你怎么处理？）
<template> <div class="viewport" @scroll="scroll"> <div class="list-phantom" :style="{height: totalHeight+'px'}"></div> <div class="list-area" :style= ......
Power BI - 5分钟学习修改数据类型
每天5分钟，今天介绍Power BI修改数据类型 Power BI加载数据时，会尝试将源列的数据类型转换为更高效的存储、计算和数据可视化的数据类型。例如，如果从Excel导入的值的列没有小数值，Power BI Desktop会将整个数据列转换为整数数据类型，这能更好地优化存储提高计算效率。 但是某 ......
数据结构-单调队列
单调队列使用范围： 滑动区间的极值查询与维护 单调队列的原理： 单调队列需要持续维护队列的单调性，我们假设该队列为单增队列，那么最小值可以在队尾取得。 如图是一个刚建立的队列 接下来思考插入一个元素怎么处理：我们从队首开始看，如果队首的元素比目前需要插入的值大，那么原先队列的那个值在滑动过程中就不会 ......
云数据库与Web网站：构建高效、可扩展的网络应用
云数据库与Web网站的关系
云数据库与Web网站之间存在着密切的关系。Web网站需要数据库来存储和管理用户数据、交易信息、内容资料等关键信息。而云数据库提供的弹性和可扩展性，使得Web网站能够根据业务需求快速地增加或减少存储资源，从而更加高效地应对用户访问和数据增长。
同时，云数据库还为Web网站提... ......
列式云数据库与关系型云数据库：区别、优缺点与选择
列式云数据库与关系型云数据库的区别
数据存储方式
列式云数据库以列为单位组织数据，将同一列的数据存储在一起，每个列都有一个相关的列式存储文件。这种数据存储方式适合于大量数据分析和高性能计算的场景，因为列式云数据库能够更好地压缩数据并提高查询效率。而关系型云数据库则采用传统的关系型数据模型，以行为单位... ......
mysql数据库行锁-表锁
1.数据库的锁 从性能上分为乐观锁和悲观锁：乐观锁是利用版本号，比如数据字段新增一个版本号字段，操作的时候进行版本的比对，需要开发者自己实现；悲观锁就是在操作数据时，认为此操作会出现数据冲突，所以在进行每次操作时都要通过获取锁才能进行对相同数据的操作，这点跟java中的synchronized很相似 ......