开发平台 数据 资源 平台
数据转换工具DBT介绍及实操
一、什么是DBT dbt （data build tool）是一款流行的开源数据转换工具，能够通过 SQL 实现数据转化，将命令转化为表或者视图，提升数据分析师的工作效率。dbt 主要功能在于转换数据库或数据仓库中的数据，在 E（Extract）、L（Load）、T（Transform） 的流程中， ......
低代码平台前端的设计与实现（四）组件大纲树的构建设计
在上篇文章，我们已经设计了一个简单的设计态的Canvas，能够显示经过BuildEngine生成的ReactNode进行渲染。本文，我们将继续上一篇文章的成果，设计并实现一个能够显示组件节点大纲树的组件。 什么是组件大纲树？ 我们希望用户能通过一个地方比较明显的看到当前整个ComponentNode ......
人工智能,丹青圣手,全平台(原生/Docker)构建Stable-Diffusion-Webui的AI绘画库教程(Python3.10/Pytorch1.13.0)
世间无限丹青手，遇上AI画不成。最近一段时间，可能所有人类画师都得发出一句“既生瑜，何生亮”的感叹，因为AI 绘画通用算法Stable Diffusion已然超神，无需美术基础，也不用经年累月的刻苦练习，只需要一台电脑，人人都可以是丹青圣手。 本次我们全平台构建基于Stable-Diffusion算 ......
性能的极致,Rust的加持,Zed-Dev编辑器快速搭建Python3.10开发环境
快就一个字，甚至比以快著称于世的Sublime 4编辑器都快，这就是Zed.dev编辑器。其底层由 Rust 编写，比基于Electron技术微软开源的编辑器VSCode快一倍有余，性能上无出其右，同时支持多人编辑代码。 安装和配置Zed.dev Zed.dev编辑器还在灰度测试阶段，暂时只释出了M ......
如何高效实现 MySQL 与 elasticsearch 的数据同步
MySQL 自身简单、高效、可靠，是又拍云内部使用最广泛的数据库。但是当数据量达到一定程度的时候，对整个 MySQL 的操作会变得非常迟缓。而公司内部 robin/logs 表的数据量已经达到 800w，后续又有全文检索的需求。这个需求直接在 MySQL 上实施是难以做到的。 原数据库的同步问题 由 ......
重磅！flink-table-store 将作为独立数据湖项目重新加入 Apache
数据湖是大数据近年来的网红项目，大家熟知的开源数据湖三剑客 Apache hudi、Apache iceberg 、Databricks delta 近年来野蛮生长，目前各自背后也都有商业公司支持，投入了大量的人力物力去做研发和宣传。然而今天我们要讲的是数据湖界的后起之秀 —— flink-tabl ......
Java/.Net双平台核心，Jvm和CLR运行异同点
前言： 本篇以.Net 7.0.2 CLR 和 OpenJDk19参照，解析下它们各自调用函数的异同。 以下为个人理解。 概述 JDK大约5.9G，CLR大约7.6G,两者相差1.7G左右。 root@tang-virtual-machine:/home/tang# cd jdk-jdk-19-36 ......
使用metrics-server监控k8s的资源指标
首先，欢迎使用DHorse部署k8s应用。 k8s可以通过top命令来查询pod和node的资源使用情况，如果直接运行该命令，如下所示。 [root@centos05 deployment]# kubectl top pod W0306 15:23:24.990550 8247 top_pod.go ......
Mybatis数据库驱动
Mybatis数据库驱动 最近在学习mybatis的源码,有一个databaseIdProvider根据不同数据库执行不同sql的功能,我正好有一个mysql还有一个瀚高数据库,就去试了一下,使用如下 pom文件导入两个数据库的驱动 <dependency> <groupId>mysql</grou ......
【数据结构与算法学习】线性表（顺序表、单链表、双向链表、循环链表）
实现语言：C++ 1. 线性表相关概念 线性表（Linear List） 是由n(n≥0)个具有相同特性（数据类型）的数据元素（结点）a1，a2，...，ai-1，ai，ai+1，...，an组成的有限序列。 其中，a1为线性起点（起始结点），an为线性终点（终端结点）。对于每一个数据元素ai，我们 ......
企业如何构建内部开发者平台？
平台工程是一种新兴的行业趋势，帮助企业实现软件交付的现代化，加速企业数字化转型。企业通过平台工程，旨在提高开发人员的生产力以及开发体验，同时也为应用程序开发提供一个稳定可靠的基础。平台工程团队通过构建内部开发者平台（Internal Developer Platform, IDP）将所有的技术和工具 ......
开发者体验：现代企业架构的关键一环
在之前的文章中，我们详细介绍了平台工程的基本内容，文中指出平台团队应该采用产品的方法构建内部开发者平台，即 Platform as a Product。 内部平台面向的用户则是企业内其他部门的开发人员，因此如果要充分体现平台及平台团队的价值，那么打造优质的开发者体验（Developer Experi ......
一文带你了解内部开发者门户
内部开发者门户（internal developer portal）是一个自助服务的应用程序和数据存储，可以为软件工程团队提供提供访问所有软件组件、资源、环境、工具和文档的能力，让开发人员和管理人员跟踪并组织其工程团队构建和运行的所有内容。 信息碎片化问题常常困扰着运行复杂分布式系统的软件工程组织， ......
java生态下后端开发都有哪些技术栈？
前言 大学跟着老师培训班学习的C#，那时（2003-2010）它是比较时髦得开发语言，我2008年毕业后，当了一年多三班倒的工人，由于不是自己要走的路，就换到自己专业上来了，也就开始从事了winform窗体应用程序开发。随着web网站兴起，就转到asp.net开发，前端app混合开发。大约2017年 ......
常用的"小脚本"-json数据处理
小背景： 我们公司项目中的小脚本是一些工具类，比如常用的是MapUtil工具类的一些方法 写公司的MapUtil工具类的方法要注意，方法名的命名，因为方法名，在公司的项目的某个业务流程有对方法名的进行String截取开头字符串然后进行判断 一、工具的使用推荐 1、获取到请求url（接口的形式-一般数 ......
【数据结构与算法学习】散列表（Hash Table，哈希表）
实现语言：C++ 1. 散列表 散列表，英文名称为Hash Table，又称哈希表、杂凑表等。 线性表和树表的查找是通过比较关键字的方法，查找的效率取决于关键字的比较次数。 而散列表是根据关键字直接访问的数据结构。散列表通过散列函数将关键字映射到存储地址，建立了关键字和存储地址之间的一种直接映射关系 ......
Qt开发技术：Q3D图表开发笔记（一）：Q3DScatter三维散点图介绍、Demo以及代码详解
前言 qt提供了q3d进行三维开发，虽然这个框架没有得到大量运用也不是那么成功，性能上也有很大的欠缺，但是普通的点到为止的应用展示还是可以的。 其中就包括华丽绚烂的三维图表，数据量不大的时候是可以使用的。 Demo：Q3DScatter散点图演示效果 Q3D提供的三维图表 依赖QtDataVisua ......
三分钟搭建一个自己的 ChatGPT (从开发到上线)
原文链接：https://icloudnative.io/posts/build-chatgpt-web-using-laf/ 视频教程：https://www.bilibili.com/video/BV1cx4y1K7B2/ OpenAI 已经公布了 ChatGPT 正式版 API，背后的新模型是 ......
c/c++指针从浅入深介绍——基于数据内存分配的理解（上）
c/c++指针从浅入深介绍——基于数据内存分配的理解（上） 本文是对自我学习的一个总结以及回顾，文章内容主要是针对代码中的数据在内存中的存储情况以及存储中数值的变化来对指针进行介绍，是对指针以及数据在内存中数值是如何变化的，为什么需要使用到指针，为什么有时候使用指针很容易会报错，怎么去使用指针才能让 ......
【django-vue】封装logger 封装全局异常 封装response 数据库配置 用户表继承AbstractUser配置
上节回顾 这是一个django-Vue前后端分离的项目（视频网站） # 1 企业软件类型 -商城类 -公司内部： -业务 -RBAC权限管理 # 2 软件开发流程 -你的工作流程 # 3 pip换源 ：国内镜像 -命令行中 -pycharm中 # 4 虚拟环境： -每个项目有自己的环境 -虚拟环境： ......
docker mysql8.0 启动，挂数据卷，定时备份，恢复~
安装mysql 从mysql社区版的官方源去拉取镜像：mysql/mysql-server - Docker Image | Docker Hub docker run --name=mysql1 -d mysql/mysql-server:latest 镜像起来之后，mysql就默默的初始化好了， ......
手把手教你搭建Windows 搭建Prometheus + Grafana + Jmeter可视化监控平台
下载安装包 Prometheus windows_exporter Grafana 下载地址：https://share.weiyun.com/D9sdiWoC 工作原理 Exporter 监控工具，获取数据 Prometheus 普罗米修斯时序数据库，用来存储和查询监控数据 Grafana 仪表盘 ......
微软出品自动化神器【Playwright+Java】系列（十二）测试框架的设计与开发
一、前言 大家好，我是六哥！ 又有好长一段时间没更文了，不是我懒，而是确实在更文上，没有以前积极了，这里是该自我检讨的。 其实不是我不积极，而是相对更文学习来说，优先级不是最高。 对我而言，目前最重要的就是减肥，除了下雨下雪，我都坚持每天5公里，keep记录如下： 早在四天前就完成了playwrig ......
[数据分析与可视化] Python绘制数据地图1-GeoPandas入门指北
本文主要介绍GeoPandas的基本使用方法，以绘制简单的地图。GeoPandas是一个Python开源项目，旨在提供丰富而简单的地理空间数据处理接口。GeoPandas扩展了Pandas的数据类型，并使用matplotlib进行绘图。GeoPandas官方仓库地址为：GeoPandas。GeoPa ......
hibernate跨数据库，columnDefinition不可移植性改造方案
#背景&问题描述 很多项目选择jpa/hibernate，更多是为了代码的可移植性，不限制数据库的选择。特别是toB的业务系统，不同的客户，要求用不同的数据库。特别近几年，大力倡导软件国产化，国产数据库也在崛起，很多政府、国企、电力、银行在数据库的选择上，纷纷转向国产数据库。也许mybatis+my ......
hibernate跨数据库，json字段处理方案，自定义扩展JsonStringType
一、背景 对于一些不经常更新的静态数据，我们喜欢使用json格式存储。推荐的做法是将json数据存储在key-value数据库，但这无疑增加了技术成本，所以我们通常还是存储在RDB数据库中。我们在使用hibernate，对json数据的存取期望是，存能自动转换为json格式存储，取能自动将json数 ......
maui BlazorWebView+本地html (vue、uniapp等都可以) 接入微信sdk 开发 Android app
之前没接触过Android maui 开发，这几天刚摸索，有些不合理的地方欢迎指出。 首先添加微信sdk的绑定库 nuget 包：Chi.MauiBinding.Android.WeChat 项目地址：https://github.com/realZhangChi/MauiBinding 在项目目录 ......
Redis缓存数据库-快速入门
Redis数据库快速入门 一、Redis数据库 介绍： Redis：非关系型缓存数据库 nosql：非关系型数据库 没有表，没有表与表之间的关系，更不存在外键 存储数据的形式为key：values的形式 c语言写的服务（监听端口），用来存储数据的，数据是存储在内存中，取值，放值速度非常快， 10w ......
数据问题排查思路
1、背景 数据开发、数据仓库工作和业务系统开发工作很大的一个不同是，业务系统功能开发一旦完成并通过测试，一般就可以比较稳定地长期运行，因为它的输入是相对稳定的。但是数据仓库开发加工的数据模型、数据指标和分析结论，却很难保持稳定。因为输入数据每天都在源源不断产生，很难保证数据没有大的波动，而输入的不稳 ......