native 向量化 大数据计算引擎

发布时间 2023-11-23 10:55:18作者: leegooy

Velox(Facebook Intel, ByteDance字节, and Ahana)

一个旨在优化查询引擎和数据处理系统的 C++ 向量化数据库加速库。使用C++来实现Native计算引擎,追求极致的性能

https://github.com/facebookincubator/velox

https://velox-lib.io/

Presto+Velox:

Prestissimo facebook(已开源)

 

Spark+Velox:

Gluten  intel 和Kyligence (已开源)

Photon   Databricks 

Spruce facebook(未开源)

 

PyTorch(TorchArrow)+Velox 

 

其他

 OmniRuntime 华为

 

一种采用Native Code(C/C++)实现大数据SQL算子来提高查询性能的特性,通过列式存储和向量化执行技术,同时利用鲲鹏加速库,提升算子的执行效率,从而提升查询引擎的查询性能。

 

 

  

 

 

参考:

https://baijiahao.baidu.com/s?id=1743187016205637139&wfr=spider&for=pc  Velox 简介:开源统一执行引擎

https://zhuanlan.zhihu.com/p/543880633?utm_id=0   从Photon论文谈大数据计算引擎的Native化

https://zhuanlan.zhihu.com/p/618675658?utm_id=0   论文阅读笔记:Photon: A Fast Query Engine for Lakehouse Systems

https://www.iteblog.com/archives/10196.html 

https://github.com/prestodb/presto/pull/17575

 

https://www.51cto.com/article/713357.html