Hive04_DDL操作

Hive DDL操作

1 DDL 数据定义

1.1 创建数据库

CREATE DATABASE [IF NOT EXISTS] database_name
[COMMENT database_comment]
[LOCATION hdfs_path]
[WITH DBPROPERTIES (property_name=property_value, ...)];

[IF NOT EXISTS] ：判断是否存在

[COMMENT database_comment] ：注释

[LOCATION hdfs_path]：指定数据库的创建位置

1）创建一个数据库，数据库在 HDFS 上的默认存储路径是/user/hive/warehouse/*.db。

hive (default)> create database db_hive;

2）避免要创建的数据库已经存在错误，增加 if not exists 判断。（标准写法）

hive (default)> create database db_hive;
FAILED: Execution Error, return code 1 from 
org.apache.hadoop.hive.ql.exec.DDLTask. Database db_hive already exists
hive (default)> create database if not exists db_hive;

3）创建一个数据库，指定数据库在 HDFS 上存放的位置

hive (default)> create database db_hive2 location '/db_hive2.db';

1.2 查询数据库

1.2.1 显示数据库

1）显示数据库

hive> show databases;

2）过滤显示查询的数据库

hive> show databases like 'db_hive*';
OKsh
db_hive
db_hive_1

1.2.2 查看数据库详情

1）显示数据库信息

hive> desc database db_hive;

2）显示数据库详细信息，extended

hive> desc database extended db_hive;

1.2.3 切换当前数据库

hive (default)> use db_hive;

1.2.4 修改数据库

用户可以使用 ALTER DATABASE 命令为某个数据库的 DBPROPERTIES 设置键-值对属性值，
来描述这个数据库的属性信息。

hive (default)> alter database db_hive set dbproperties('createtime'='20220830');

在 hive 中查看修改结果

hive> desc database extended db_hive;

1.2.5 删除数据库

1）删除空数据库

hive>drop database db_hive2;

2）如果删除的数据库不存在，最好采用 if exists 判断数据库是否存在

hive> drop database db_hive;
FAILED: SemanticException [Error 10072]: Database does not exist: db_hive
hive> drop database if exists db_hive2;

3）如果数据库不为空，可以采用 cascade 命令，强制删除

hive> drop database db_hive;
FAILED: Execution Error, return code 1 from 
org.apache.hadoop.hive.ql.exec.DDLTask. 
InvalidOperationException(message:Database db_hive is not empty. One or 
more tables exist.)
hive> drop database db_hive cascade;

2 DDL创建表

2.0 内部表和管理表

在Hive中，表分为内部表（Internal Table）和外部表（External Table），也被称为管理表（Managed Table）和外部表（External Table）。

1 内部表
内部表是Hive自己管理的表，数据存储在HDFS上。创建内部表时，需要指定表的名称、列名、数据类型等信息，并使用CREATE TABLE语句进行创建。同时，在创建表时需要指定存储格式（如ORC、Parquet等）和存储路径等参数。对于内部表，当使用DROP TABLE语句删除表时，表的元数据和数据都会被删除。

内部表建表是不加修饰词即可：

create table database_name.table_name(column1 string，
column2 string)

2 管理表
管理表也存储在HDFS上，但是它们与内部表不同，管理表的元数据是由Hive管理的，并且可以被其他工具访问（如Pig）。创建管理表时，需要指定表的名称、列名、数据类型等信息，并使用CREATE TABLE语句进行创建。与内部表不同的是，创建管理表时无需指定存储格式和存储路径等参数，因为这些参数会被Hive自动管理。对于管理表，当使用DROP TABLE语句删除表时，仅删除表的元数据，而数据仍然保留在HDFS上。

外部表建表时需要加external：

create table external database_name.table_name(column1 string，
column2 string)

总结：
因此，使用内部表时，Hive会自动管理表的数据和元数据，而使用外部表时，则需要人工管理表的数据文件，但是可以让多个 Hive 实例共享同一个数据文件。通常情况下，如果数据只会被 Hive 使用，建议使用内部表，而如果数据需要被其他程序或服务使用，建议使用外部表。

管理表和外部表的使用场景
每天将收集到的网站日志定期流入HDFS文本文件。在外部表（原始日志表）的基础上做大量的统计分析，用到的中间表、结果表使用内部表存储，数据通过SELECT+INSERT进入内部表。

--创建外部表    定位原始数据
CREATE EXTERNAL TABLE tb_external_user(
id int,
name string,
age int 
)
row format delimited fields terminated by ','
location '/data/user';--创建管理表(内部表)     管理表的创建和使用,管理表直接管理数据, 管理表的目录和表一致
--将数据直接放到管理表的目录下  或者使用 insert into...select... 语法导入数据
CREATE TABLE tb_manager_user(
id int,
name string,
age int
)
row format delimited fields terminated by ',';

2.1 外部表

1 创建一张外部表

create external table if not exists mytest3 (id string);

在这里插入图片描述

2 删除此外部表

 drop table mytest3;

刷新mysql TBLS,mytest3的保存路径已经被删除。

刷新网页，hdfs中依然存在mytest3！

2.2 管理表与外部表的互相转换

查询表的类型

hive (default)> desc formatted mytest;

修改内部表 mytest为外部表

alter table mytest set tblproperties('EXTERNAL'='TRUE');

修改外部表 mytest为内部表

alter table mytest set tblproperties('EXTERNAL'='FALSE');

注意：(‘EXTERNAL’=‘TRUE’)和(‘EXTERNAL’=‘FALSE’)为固定写法，区分大小写！

2.3 复制表

（0）原始数据
1001 ss1
1002 ss2
1003 ss3
1004 ss4
1005 ss5
1006 ss6
1007 ss7
1008 ss8
1009 ss9
1010 ss10
1011 ss11
1012 ss12
1013 ss13
1014 ss14
1015 ss15
1016 ss16

（1）普通创建表

create table if not exists student(
id int, name string
)
row format delimited fields terminated by '\t'
stored as textfile
location '/user/hive/warehouse/student';

（2）根据查询结果创建表（查询的结果会添加到新创建的表中）

create table if not exists student2 as select id, name from student;

（3）根据已经存在的表结构创建表

create table if not exists student3 like student;

（4）查询表的类型

hive (default)> desc formatted student2;
Table Type: MANAGED_TABLE

2.4 练习

分别创建部门和员工外部表，并向表中导入数据。
（0）原始数据

dept: 部门表
10 ACCOUNTING 1700
20 RESEARCH 1800
30 SALES 1900
40 OPERATIONS 1700
emp：员工表
7369 SMITH CLERK 7902 1980-12-17 800.00 20
7499 ALLEN SALESMAN 7698 1981-2-20 1600.00 300.00 30
7521 WARD SALESMAN 7698 1981-2-22 1250.00 500.00 30
7566 JONES MANAGER 7839 1981-4-2 2975.00 20
7654 MARTIN SALESMAN 7698 1981-9-28 1250.00 1400.00 30
7698 BLAKE MANAGER 7839 1981-5-1 2850.00 30
7782 CLARK MANAGER 7839 1981-6-9 2450.00 10
7788 SCOTT ANALYST 7566 1987-4-19 3000.00 20
7839 KING PRESIDENT 1981-11-17 5000.00 10
7844 TURNER SALESMAN 7698 1981-9-8 1500.00 0.00 30
7876 ADAMS CLERK 7788 1987-5-23 1100.00 20
7900 JAMES CLERK 7698 1981-12-3 950.00 30
7902 FORD ANALYST 7566 1981-12-3 3000.00 20
7934 MILLER CLERK 7782 1982-1-23 1300.00 10

（1）上传数据到 HDFS

hive (default)> dfs -mkdir /student;
hive (default)> dfs -put /usr/soft/datas/student.txt /student;

（2）建表语句，创建外部表
创建部门表

create external table if not exists dept(
deptno int,
dname string,
loc int
)
row format delimited fields terminated by '\t';

创建员工表

create external table if not exists emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
row format delimited fields terminated by '\t';

（3）查看创建的表

hive (default)>show tables;

（4）查看表格式化数据

hive (default)> desc formatted dept;
Table Type: EXTERNAL_TABLE

（5）删除外部表

hive (default)> drop table dept;

外部表删除后，hdfs 中的数据还在，但是 metadata 中 dept 的元数据已被删除

3 DDL修改表

3.1 重命名表

1）语法

ALTER TABLE table_name RENAME TO new_table_name

2）实操案例

hive (default)> alter table mytest1 rename to mytest2;

3.2 增加/修改/替换列信息

1）语法

（1）更新列

ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name 
column_type [COMMENT col_comment] [FIRST|AFTER column_name]

示例

alter table mytest change id ids string;

（2）增加和替换列

ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT 
col_comment], ...)

注：ADD 是代表新增一字段，字段位置在所有列后面(partition 列前)，
REPLACE 则是表示替换表中所有字段。

示例：

alter table mytest add columns (name string); # 新增一列

alter table mytest replace columns (names string);

注意：replace对表中的所有列生效

3.3 删除表

hive (default)> drop table mytest;

ADD|REPLACE COLUMNS (col_name data_type [COMMENT
col_comment], …)


***注：ADD 是代表新增一字段，字段位置在所有列后面(partition 列前)，***
***REPLACE 则是表示替换表中所有字段。*****示例：**```sql
alter table mytest add columns (name string); # 新增一列

alter table mytest replace columns (names string);

注意：replace对表中的所有列生效

3.3 删除表

hive (default)> drop table mytest;