自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 资源 (1)
  • 收藏
  • 关注

原创 presto-jdbc开发

presto-jdbc开发,可以用prestodb的包,也可以用prestosql的包,都可以连接的。用prestosql的如下: import java.sql.Connection; import java.sql.DriverManager; import java.sql.ResultSet; import java.sql.SQLException; import java.sql.Statement; import java.util.Properties; public class Table

2020-09-22 16:08:52 861

原创 hive-jdbc操作表

hadoop版本2.7.2,hive版本1.2,首先开启hivejdbc服务,创建的是orc类型表。 代码为: import java.sql.*; /** [admin@linux01 bin]$ ./hiveserver2 开启这个服务 20200921 */ public class TableOrc { private static String driveName = “org.apache.hive.jdbc.HiveDriver”; private static Connection c

2020-09-21 11:35:32 243

原创 通过httpfs的rest接口,在hdfs文件系统创建文件夹

通过httpfs的rest接口,在hdfs文件系统创建文件夹,基于httpclient5.0实现。 /* ==================================================================== Licensed to the Apache Software Foundation (ASF) under one or more contributor license agreements. See the NOTICE file distributed w

2020-09-18 10:40:36 457

原创 通过httpfs的rest接口,远程删除文件

pom.xml可以参考我的其他文件设置。 代码如下: import java.io.IOException; import org.apache.hc.client5.http.ClientProtocolException; import org.apache.hc.client5.http.classic.methods.HttpDelete; import org.apache.hc.client5.http.impl.classic.CloseableHttpClient; import org.a

2020-09-18 10:36:01 382

原创 通过yarn的rest接口获取文件信息或者任务app的日志信息

通过yarn的rest接口获取文件信息或者任务app的日志信息,即可以打开查看文件内容,也可以查看应用日志返回json格式。 /* ==================================================================== Licensed to the Apache Software Foundation (ASF) under one or more contributor license agreements. See the NOTICE file

2020-09-18 10:31:18 1737

原创 通过httpfs的rest接口上传文件到hdfs文件系统

通过yarn的rest接口上传文件到hdfs文件系统,基于httpclient 5.0 import java.io.File; import org.apache.hc.client5.http.classic.methods.HttpPut; import org.apache.hc.client5.http.entity.mime.FileBody; import org.apache.hc.client5.http.entity.mime.MultipartEntityBuilder; import

2020-09-18 10:28:14 887

原创 通过yarn的rest接口杀死正在运行的任务,基于httpclient4.5

通过yarn的rest接口杀死正在运行的任务,基于httpclient4.5。 curl命令为: curl -X PUT -d ‘{“state”:“KILLED”}’ -H ‘Content-Type: application/json’ http://linux01:8088/ws/v1/cluster/apps/application_1600303805098_0001/state 代码为: import net.sf.json.JSONObject; import org.apache.http.

2020-09-18 10:23:07 1355

原创 通过yarn的rest接口杀死正在运行的任务,基于httpclient5.0

通过yarn的rest接口杀死正在运行的任务,基于httpclient5.0 import java.io.File; import java.io.IOException; import java.net.URISyntaxException; import org.apache.hc.client5.http.ClientProtocolException; import org.apache.hc.client5.http.classic.methods.HttpPut; import org.apa

2020-09-18 10:12:52 743

spark-avro,hudi开发jar包

spark-avro,hudi开发jar包

2022-11-02

遍历hfds列出所有空目录和文件及大小.rar

java代码实现遍历hdfs所有文件夹及文件,列出空目录以dirnull标示,列出所有文件及大小。可以直接导入到开发环境,hadoop版本为2.7.2,

2020-08-27

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除