Posts
I have a adream
Cancel

C++11 使用自定义 hash 函数及比较函数的 unordered_set

#include <unordered_set> #include <functional> #include <iostream> struct MyKey { int key; }; struct MyKeyHashHasher { size_t operator()(const MyKey &k) const noexcept { ...

Mongodb go sdk 测试

启动 mongodb docker run -it --rm -p 27017:27017 --name mongodb -e MONGO_INITDB_ROOT_USERNAME=root -e MONGO_INITDB_ROOT_PASSWORD=123456 mongo:4.4 mongo_exp1.go package main import ( "context" "f...

使用 Docker 启动 mongodb

使用 docker 启动 mongodb $ mkdir db $ docker run -it --rm -p 27017:27017 -v ${PWD}/db:/data/db --name mongodb -e MONGO_INITDB_ROOT_USERNAME=root -e MONGO_INITDB_ROOT_PASSWORD=123456 mongo:4.4 安装 mo...

AWS 命令配置文件

aws cli 可以配置多个 Access Key,在访问时手动选择使用哪个Key ~/.aws/credentials内容如下: [default] aws_access_key_id=AKIAIOSFODNN7EXAMPLE aws_secret_access_key=wJalrXUtnFEMI/K7MDENG/bPxRfiCYEXAMPLEKEY [cnnw1] aws_acces...

AWS go sdk 使用简介

介绍如何使用 aws 的 go sdk 创建 ec2 实例,并且可以 ssh 远程登录该 ec2 实例,以及如何销毁 ec2 实例 aws cli aws cli 是 amazon 提供的命令行工具,可以直接在命令行中操作 ec2 实例。可以直接使用 docker 运行 aws cli $ docker run --rm -it amazon/aws-cli --version aws...

docker运行指定 GPU

docker 内运行所有的 GPU docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi 输出结果 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 450.57 Drive...

zap配合logrotate实现日志滚动

zap是Uber 提供的GoLang高性能日志库,zap 本身并不提供日志滚动功能,官方 FAQ 提到,可以使用Linux系统自带的 logrotate 或lumberjack实现日志滚动功能 lumberjack 只能向文件输出日志,如果我们希望同时向stderr 和文件输出日志,只能使用 logrotate 配合自定义 WriteSyncer 实现了 Go代码 package mai...

9-自定义数据类型上的 Codegen

本篇文章是这个系列的最后一篇文章,我们介绍如何在 UDT 上做 Codegen,和前文类似, Codegen 实现的自定义函数要求如下: 该函数接受两个 my_point 类型的参数作为输入 参数名记为 x,y 函数输出 my_point(x.x+y.x, x.y+y.y) Codegen 和前文类似, Codegen 实现的自定义函数也是从 Expression 继承,并...

8-自定义数据类型上的自定义函数

在上篇文章中,我们介绍了自定义数据类型,在本篇文章中,我们介绍如何在自定义数据类型上定义自定义函数,参考前文介绍的 my_foo 方法,这里我们介绍两种非 codegen 实现的自定义函数 自定义函数 自定义函数的需求如下: 该函数接受两个 my_point 类型的参数作为输入 参数名记为 x,y 函数输出 my_point(x.x+y.x, x.y+y.y) 方法1 ...

7-自定义数据类型

在之前的文章中,我们介绍了如何使用 Codegen 实现自定义函数,但是自定义函数参数类型及返回值类型均为 Spark 原生的数据类型。 从本篇文章开始,我们介绍如何在 Spark 中自定义数据类型 (UDT) ,以及针对该 UDT 的自定义函数,最后,我们希望这些自定义函数也是 Codegen 实现的 UDT 自定义数据类型的要求如下: UDT 的名字为 my_point m...