spark-sql建表语句限制_SparkSQL

SparkSQL介绍

Hive是Shark的前身,Shark是SparkSQL的前身,SparkSQL产生的根本原因是其完全脱离了Hive的限制。

SparkSQL支持查询原生的RDD。 RDD是Spark平台的核心概念,是Spark能够高效的处理大数据的各种场景的基础。

能够在scala中写SQL语句。支持简单的SQL语法检查,能够在Scala中写Hive语句访问Hive数据,并将结果取回作为RDD使用。

  1. Spark on Hive和Hive on Spark

Spark on Hive: Hive只作为储存角色,Spark负责sql解析优化,执行。

Hive on Spark:Hive即作为存储又负责sql的解析优化,Spark负责执行。

  1. Dataset与DataFrame

0e5730a453b7d2485ed2f7022136fbac.png

Dataset也是一个分布式数据容器。与RDD类似,然而Dataset更像传统数据库的二维表格,除了数据以外,还掌握数据的结构信息,即schema。同时,与Hive类似,Dataset也支持嵌套数据类型(struct、array和map)。从API易用性的角度上 看, Dataset API提供的是一套高层的关系操作,比函数式的RDD API要更加友好,门槛更低。

Dataset的底层封装的是RDD,当RDD的泛型是Row类型的时候,我们也可以称它为DataFrame。即Dataset<Row> = DataFrame

  1. SparkSQL底层架构

首先拿到sql后解析一批未被解决的逻辑计划,再经过分析得到分析后的逻辑计划,再经过一批优化规则转换成一批最佳优化的逻辑计划,再经过SparkPlanner的策略转化成一批物理计划,随后经过消费模型转换成一个个的Spark任务执行。

34313e4ee8d1e35fec5d590e3ee9f2ca.png
  1. 谓词下推(predicate Pushdown)

183e25c764ad204566b4cff26800bc63.png
  1. 创建Dataset的几种方式
  2. 读取json格式的文件创建Dataset

注意:

  • json文件中的json数据不能嵌套json格式数据。
  • Dataset是一个一个Row类型的RDD,ds.rdd()/ds.javaRdd()。
  • 可以两种方式读取json格式的文件。
  • df.show()默认显示前20行数据。
  • Dataset原生API可以操作Dataset(不方便)。
  • 注册成临时表时,表中的列默认按ascii顺序显示列。
java:
SparkSession sparkSession = SparkSession.builder().appName("jsonfile").master("local").getOrCreate();		/*** Dataset的底层是一个一个的RDD  RDD的泛型是Row类型。* 以下两种方式都可以读取json格式的文件*/
Dataset<Row> ds = sparkSession.read().format("json").load("data/json");
// Dataset<Row> ds = sparkSession.read().json("data/json");
// ds.show();/*** Dataset转换成RDD*/
JavaRDD<Row> javaRDD = ds.javaRDD();
/*** 显示 Dataset中的内容,默认显示前20行。如果现实多行要指定多少行show(行数)* 注意:当有多个列时,显示的列先后顺序是按列的ascii码先后显示。*/
// ds.show();
/*** 树形的形式显示schema信息*/ds.printSchema();/*** Dataset自带的API 操作Dataset*///select name from table// ds.select("name").show();//select name age+10 as addage from tableds.select(ds.col("name"),ds.col("age").plus(10).alias("addage")).show();//select name ,age from table where age>19ds.select(ds.col("name"),ds.col("age")).where(ds.col("age").gt(19)).show();//select count(*) from table group by ageds.groupBy(ds.col("age")).count().show();/*** 将Dataset注册成临时的一张表,这张表临时注册到内存中,是逻辑上的表,不会雾化到磁盘*/ds.createOrReplaceTempView("jtable");Dataset<Row> result= sparkSession.sql("select age,count(*) as gg from jtable group by age");result.show();		sparkSession.stop();
  1. 通过json格式的RDD创建Dataset
java:
SparkSession sparkSession = SparkSession.builder().appName("jsonrdd").master("local").getOrCreate(); 
SparkContext sc = sparkSession.sparkContext();
JavaSparkContext jsc = new JavaSparkContext(sc);JavaRDD<String> nameRDD = sc.parallelize(Arrays.asList("{"name":"zhangsan","age":"18"}","{"name":"lisi","age":"19"}","{"name":"wangwu","age":"20"}"
));
JavaRDD<String> scoreRDD = sc.parallelize(Arrays.asList(
"{"name":"zhangsan","score":"100"}",
"{"name":"lisi","score":"200"}",
"{"name":"wangwu","score":"300"}"
));Dataset<Row> nameds = sparkSession.read().json(nameRDD);
Dataset<Row> scoreds = sparkSession.read().json(scoreRDD); 
nameds.createOrReplaceTempView("nameTable");
scoreds.createOrReplaceTempView("scoreTable"); 
Dataset<Row> result =sparkSession.sql("select 
nameTable.name,nameTable.age,scoreTable.score "+ "from nameTable join scoreTable "+ "on nameTable.name = scoreTable.name"); result.show();
sparkSession.stop();非json格式的RDD创建Dataset
通过反射的方式将非json格式的RDD转换成Dataset
自定义类要可序列化
自定义类的访问级别是Public
RDD转成Dataset后会根据映射将字段按Assci码排序
将Dataset转换成RDD时获取字段两种方式,一种是ds.getInt(0)下标获取(不推荐使用),
另一种是ds.getAs(“列名”)获取(推荐使用)
/**
* 注意:
* 1.自定义类必须是可序列化的
* 2.自定义类访问级别必须是Public
* 3.RDD转成Dataset会把自定义类中字段的名称按assci码排序
*/
SparkSession sparkSession = SparkSession.builder().appName("reflect").master("local").getOrCreate();SparkContext sc = sparkSession.sparkContext();JavaSparkContext jsc = new JavaSparkContext(sc);JavaRDD<String> lineRDD = jsc.textFile("data/person.txt");JavaRDD<Person> personRDD = lineRDD.map(new Function<String, Person>() {private static final long serialVersionUID = 1L;@Overridepublic Person call(String line) throws Exception {Person p = new Person();p.setId(line.split(",")[0]);p.setName(line.split(",")[1]);p.setAge(Integer.valueOf(line.split(",")[2]));return p;}
});
/**
* 传入进去Person.class的时候,sqlContext是通过反射的方式创建DataFrame
* 在底层通过反射的方式获得Person的所有field,结合RDD本身,就生成了DataFrame
*/
Dataset<Row> dataFrame = sparkSession.createDataFrame(personRDD, Person.class);dataFrame.show();dataFrame.printSchema();dataFrame.registerTempTable("person");
Dataset sql = sparkSession.sql("select  name,id,age from person where id = 2");sql.show();/**
* 将Dataset转成JavaRDD
* 注意:
* 1.可以使用row.getInt(0),row.getString(1)...通过下标获取返回Row类型的数据,
但是要注意列顺序问题---不常用
* 2.可以使用row.getAs("列名")来获取对应的列值。
* 
*/
JavaRDD<Row> javaRDD = df.javaRDD();
JavaRDD<Person> map = javaRDD.map(new Function<Row, Person>() {/*** */private static final long serialVersionUID = 1L;@Overridepublic Person call(Row row) throws Exception {Person p = new Person();//p.setId(row.getString(1));//p.setName(row.getString(2));//p.setAge(row.getInt(0));p.setId((String)row.getAs("id"));p.setName((String)row.getAs("name"));p.setAge((Integer)row.getAs("age"));return p;}
});
map.foreach(x-> System.out.println(x));sc.stop();
  1. 动态创建Schema将非json格式的RDD转换成Dataset
java:
SparkSession sparkSession = SparkSession.builder().appName("schema").master("local").getOrCreate();SparkContext sc = sparkSession.sparkContext();
JavaSparkContext jsc = new JavaSparkContext(sc);JavaRDD<String> lineRDD = jsc.textFile("data/person.txt");
JavaRDD<String> lineRDD = sc.textFile("./sparksql/person.txt");
/*** 转换成Row类型的RDD*/
JavaRDD<Row> rowRDD = lineRDD.map(new Function<String, Row>() {/*** */private static final long serialVersionUID = 1L;@Overridepublic Row call(String s) throws Exception {return RowFactory.create(String.valueOf(s.split(",")[0]),String.valueOf(s.split(",")[1]),Integer.valueOf(s.split(",")[2]));}
});
/*** 动态构建DataFrame中的元数据,一般来说这里的字段可以来源自字符串,也可以来源于外部数据库*/
List<StructField> asList =Arrays.asList(DataTypes.createStructField("id", DataTypes.StringType, true),DataTypes.createStructField("name", DataTypes.StringType, true),DataTypes.createStructField("age", DataTypes.IntegerType, true)
);StructType schema = DataTypes.createStructType(asList);
Dataset<Row> df = sparkSession.createDataFrame(rowRDD, schema);
df.show();
sc.stop();
  1. 读取parquet文件创建Dataset

注意:

  • 可以将Dataset存储成parquet文件。保存成parquet文件的方式有两种

df.write().mode(SaveMode.Overwrite)format("parquet")

.save("./sparksql/parquet");

df.write().mode(SaveMode.Overwrite).parquet("./sparksql/parquet");

  • SaveMode指定文件保存时的模式。

Overwrite:覆盖

Append:追加

ErrorIfExists:如果存在就报错

Ignore:如果存在就忽略

java:

SparkSession sparkSession = SparkSession.builder().appName("parquet").master("local").getOrCreate();Dataset<Row>  df = sparkSession.read().json("data/json");
/*** 将Dataset保存成parquet文件,SaveMode指定存储文件时的保存模式* 保存成parquet文件有以下两种方式:*/
df.write().mode(SaveMode.Overwrite).format("parquet").save("./data/parquet");
df.write().mode(SaveMode.Overwrite).parquet("./data/parquet");
df.show();
/*** 加载parquet文件成DataFrame	* 加载parquet文件有以下两种方式:	*/Dataset load = sparksession.read().format("parquet").load("./data /parquet");load = sparksession.read().parquet("./data /parquet");
load.show();sc.stop();
  1. 读取JDBC中的数据创建Dataset(MySql为例)

两种方式创建Dataset

java:

SparkSession sparkSession = SparkSession.builder().appName("mysql").master("local").getOrCreate();/*** 第一种方式读取MySql数据库表,加载为DataFrame*/
Map<String, String> options = new HashMap<String,String>();
options.put("url", "jdbc:mysql://192.168.179.4:3306/spark");
options.put("driver", "com.mysql.jdbc.Driver");
options.put("user", "root");
options.put("password", "123456");
options.put("dbtable", "person");
Dataset<Row> person = sparkSession.read().format("jdbc").options(options).load(); 
person.show();
person.createOrReplaceTempView("person"); 
/*** 第二种方式读取MySql数据表加载为Dataset*/
DataFrameReader reader = sparkSession.read().format("jdbc");
reader.option("url", "jdbc:mysql://192.168.179.4:3306/spark");
reader.option("driver", "com.mysql.jdbc.Driver");
reader.option("user", "root");
reader.option("password", "123456");
reader.option("dbtable", "score");
Dataset<Row> score = reader.load();
score.show();
score.createOrReplaceTempView("score"); Dataset result = 
sparksession.sql("select person.id,person.name,score.score from person,score where person.name = score.name");
result.show();
/*** 将Dataset结果保存到Mysql中*/
Properties properties = new Properties();
properties.setProperty("user", "root");
properties.setProperty("password", "root");
result.write().mode(SaveMode.Overwrite).jdbc("jdbc:mysql://192.168.179.4:3306/spark", "result", properties);sc.stop();
  1. 读取Hive中的数据加载成Dataset

java:

SparkSession sparkSession = SparkSession.builder().master("local").appName("hvie")//开启hive的支持,接下来就可以操作hive表了// 前提需要是需要开启hive metastore 服务.enableHiveSupport().getOrCreate();sparkSession.sql("USE spark");sparkSession.sql("DROP TABLE IF EXISTS student_infos");
//在hive中创建student_infos表sparkSession.sql("CREATE TABLE IF NOT EXISTS student_infos (name STRING,age INT) row format delimited fields terminated by 't' ");sparkSession.sql("load data local inpath '/root/student_infos' into table student_infos");//注意:此种方式,程序需要能读取到数据(如/root/student_infos),同时也要能读取到 metastore服务的配置信息。sparkSession.sql("DROP TABLE IF EXISTS student_scores");
sparkSession.sql("CREATE TABLE IF NOT EXISTS student_scores (name STRING, score INT) row format delimited fields terminated by 't'");sparkSession.sql("LOAD DATA "+ "LOCAL INPATH '/root/student_scores'"+ "INTO TABLE student_scores");//		Dataset<Row> df = hiveContext.table("student_infos");//读取Hive表加载Dataset方式/*** 查询表生成Dataset*/Dataset<Row> goodStudentsDF = sparkSession.sql("SELECT si.name, si.age, ss.score "+ "FROM student_infos si "+ "JOIN student_scores ss "+ "ON si.name=ss.name "+ "WHERE ss.score>=80");goodStudentsDF.registerTempTable("goodstudent");Dataset<Row>  result = sparkSession.sql("select * from goodstudent");result.show();/*** 将结果保存到hive表 good_student_infos*/sparkSession.sql("DROP TABLE IF EXISTS good_student_infos");
goodStudentsDF.write().mode(SaveMode.Overwrite).saveAsTable("good_student_infos");sparkSession.stop();
  1. Spark On Hive的配置
  2. 在Spark客户端配置spark On hive

在Spark客户端安装包下spark-2.2.1/conf中创建文件hive-site.xml:

配置hive的metastore路径

<configuration>

<property>

<name>hive.metastore.uris</name>

<value>thrift://node1:9083</value>

</property>

</configuration>

  1. 启动Hive的metastore服务

hive --service metastore &

  1. 启动zookeeper集群,启动HDFS集群。
  2. 启动SparkShell 读取Hive中的表总数,对比hive中查询同一表查询总数测试时间。

./spark-shell

--master spark://node1:7077

spark.sql("select * from day_table").show;

  • 注意:

如果使用Spark on Hive 查询数据时,出现错误:

578919876176d0177c6d25cfe2304b98.png

找不到HDFS集群路径,要在客户端机器conf/spark-env.sh中设置HDFS的路径:

c04ef0a2ffbf4861dbd4f07800ae2293.png
  1. 序列化问题。
  2. 储存DataSet
  3. 将DataSet存储为parquet文件。
  4. 将DataSet存储到JDBC数据库。
  5. 将DataSet存储到Hive表。
  6. 自定义函数UDF和UDAF
  7. UDF:用户自定义函数。

java:

SparkSession sparkSession = SparkSession.builder().appName("udf").master("local").getOrCreate();JavaSparkContext sc = new JavaSparkContext(sparkSession.sparkContext());
JavaRDD<String> parallelize = sc.parallelize(Arrays.asList("zhangsan","lisi","wangwu"));JavaRDD<Row> rowRDD = parallelize.map(new Function<String, Row>() {/*** */private static final long serialVersionUID = 1L;@Overridepublic Row call(String s) throws Exception {return RowFactory.create(s);}
});/*** 动态创建Schema方式加载DF*/
List<StructField> fields = new ArrayList<StructField>();
fields.add(DataTypes.createStructField("name", DataTypes.StringType,true));
StructType schema = DataTypes.createStructType(fields);Dataset<Row> df = sparkSession.createDataFrame(rowRDD,schema);df.registerTempTable("user");/*** 根据UDF函数参数的个数来决定是实现哪一个UDF  UDF1,UDF2。。。。UDF1xxx*/sparkSession.udf().register("StrLen",new UDF2<String, Integer, Integer>() {/****/private static final long serialVersionUID = 1L;@Overridepublic Integer call(String t1, Integer t2) throws Exception {return t1.length() + t2;}} ,DataTypes.IntegerType );sparkSession.sql("select name ,StrLen(name,100) as length from user").show();
//
sparkSession.stop();
  1. UDAF:用户自定义聚合函数。
  • 实现UDAF函数如果要自定义类要实现UserDefinedAggregateFunction类

java:

SparkSession sparkSession = SparkSession.builder().appName("udaf").master("local").getOrCreate();JavaSparkContext sc = new JavaSparkContext(sparkSession.sparkContext());
JavaRDD<String> parallelize = sc.parallelize(Arrays.asList("zhansan","lisi","wangwu","zhangsan","zhangsan","lisi"));
JavaRDD<Row> rowRDD = parallelize.map(new Function<String, Row>() {/*** */private static final long serialVersionUID = 1L;@Overridepublic Row call(String s) throws Exception {return RowFactory.create(s);}
});List<StructField> fields = new ArrayList<StructField>();
fields.add(DataTypes.createStructField("name", DataTypes.StringType, true));
StructType schema = DataTypes.createStructType(fields);
Dataset df = sparkSession.createDataFrame(rowRDD, schema);
df.registerTempTable("user");
/*** 注册一个UDAF函数,实现统计相同值得个数* 注意:这里可以自定义一个类继承UserDefinedAggregateFunction类也是可以的*/
sparkSession.udf().register("StringCount", new UserDefinedAggregateFunction() {/*** */private static final long serialVersionUID = 1L;/*** 更新 可以认为一个一个地将组内的字段值传递进来 实现拼接的逻辑* buffer.getInt(0)获取的是上一次聚合后的值* 相当于map端的combiner,combiner就是对每一个map task的处理结果进行一次小聚合 * 大聚和发生在reduce端.* 这里即是:在进行聚合的时候,每当有新的值进来,对分组后的聚合如何进行计算*/@Overridepublic void update(MutableAggregationBuffer buffer, Row arg1) {buffer.update(0, buffer.getInt(0)+1);}/*** 合并 update操作,可能是针对一个分组内的部分数据,在某个节点上发生的 但是可能一个分组内的数据,会分布在多个节点上处理* 此时就要用merge操作,将各个节点上分布式拼接好的串,合并起来* buffer1.getInt(0) : 大聚和的时候 上一次聚合后的值       * buffer2.getInt(0) : 这次计算传入进来的update的结果* 这里即是:最后在分布式节点完成后需要进行全局级别的Merge操作*/@Overridepublic void merge(MutableAggregationBuffer buffer1, Row buffer2) {buffer1.update(0, buffer1.getInt(0) + buffer2.getInt(0));}/*** 指定输入字段的字段及类型*/@Overridepublic StructType inputSchema() {return DataTypes.createStructType(Arrays.asList(DataTypes.createStructField("name", DataTypes.StringType, true)));}/*** 初始化一个内部的自己定义的值,在Aggregate之前每组数据的初始化结果*/@Overridepublic void initialize(MutableAggregationBuffer buffer) {buffer.update(0, 0);}/*** 最后返回一个和DataType的类型要一致的类型,返回UDAF最后的计算结果*/@Overridepublic Object evaluate(Row row) {return row.getInt(0);}@Overridepublic boolean deterministic() {//设置为truereturn true;}/*** 指定UDAF函数计算后返回的结果类型*/@Overridepublic DataType dataType() {return DataTypes.IntegerType;}/*** 在进行聚合操作的时候所要处理的数据的结果的类型*/@Overridepublic StructType bufferSchema() {return DataTypes.createStructType(Arrays.asList(DataTypes.createStructField("bf", DataTypes.IntegerType, true)));}});sparkSession.sql("select name ,StringCount(name) from user group by name").show();sparkSession.stop();
  1. 开窗函数

注意:

row_number() 开窗函数是按照某个字段分组,然后取另一字段的前几个的值,相当于 分组取topN

开窗函数格式:

row_number() over (partitin by XXX order by XXX)

java:

SparkSession sparkSession = SparkSession.builder().appName("window").master("local")//开启hive的支持,接下来就可以操作hive表了// 前提需要是需要开启hive metastore 服务.enableHiveSupport().getOrCreate();sparkSession.sql("use spark");sparkSession.sql("drop table if exists sales");sparkSession.sql("create table if not exists sales (riqi string,leibie string,jine Int) "+ "row format delimited fields terminated by 't'");sparkSession.sql("load data local inpath '/root/test/sales' into table sales");/*** 开窗函数格式:* 【 rou_number() over (partitin by XXX order by XXX) 】*/Dataset<Row> result = sparkSession.sql("select riqi,leibie,jine "+ "from ("+ "select riqi,leibie,jine,"+ "row_number() over (partition by leibie order by jine desc) rank "+ "from sales) t "+ "where t.rank<=3");result.show();sparkSession.stop();

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/505629.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

docker harbor 域名_docker registry harbor

部署 harbor安装方式&#xff1a; offline软件安装需求&#xff1a;docker 1.10.0 and docker-compose 1.6.0docker 我们选用官方的 repo , yum install docker-ce -ydocker-compose , yum install python-pip,pip install docker-compose下载 Harbor离线安装包&#xff1a; ht…

groupwise_GroupWise部分文档翻译

最近用到了GroupWise,BaiDu了一下,基本没有中文资料,所以只有看英文文档,顺便把看到的东西记录下来,以备以后使用.*****PostOffice的信息存储1.PostOffice数据库PostOffice数据库(wphost.db)包括了所有PostOffice管理的信息,包括PostOffice地址薄(Address Book)的Copy,在GW系统…

苏州大学计算机学院报录比,【图片】18年苏州大学计算机872考研经验分享【苏州大学研究生吧】_百度贴吧...

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼二、面试苏大的面试环节个人感觉就很水了。面试一共300′&#xff0c;但是大多数人五分钟就完事了&#xff0c;所以不大会有什么差距&#xff0c;除非你很优秀或者是什么都答不上来。苏大的面试是分组的&#xff0c;具体分到什么组…

计算机大作业论文意义,大学的大作业是什么?

原标题&#xff1a;大学的大作业是什么&#xff1f;大学里面的大作业一般就是课程设计之类的&#xff0c;一些老师会让学生做些课外实践的作业&#xff0c;作为平时成绩的一部分大作业听起来很高大上&#xff0c;然而好多课程其实只是一篇论文。论文类的就是有点水的了。毕竟学…

arduino智能浇花系统_arduino+水泵+继电器+RFID

arduino继电器电机应用场合&#xff1a;加湿器、自动浇花、智能门锁、报警系统.......总之很多场合都适用。本章就介绍利用RFID卡输入&#xff0c;驱动水泵。/* * ---------------------------------------------------------------------------------------------------------…

改革以来计算机应用发展总结,计算机应用基础总结论文

高等教育教学改革不仅仅只是对知识的更新,对教学方法的改进,课程的考试模式改革也是非常重要的。下面是学习啦小编为大家整理的计算机应用基础总结论文&#xff0c;供大家参考。计算机应用基础总结论文范文一&#xff1a;计算机应用基础课程教学改革分析摘要&#xff1a;计算机…

7段均衡器最佳调节图_超高级的吉他均衡器 更细腻的控制 你值得拥有

BOSS DD-200吉他均衡器最近 BOSS推出了一款全新的吉他均衡效果器&#xff0c;为了追求更细腻的控制&#xff0c;这一次的更新&#xff0c;EQ200 可以说做出了不少的颠覆性改进。面板上很直观的看到&#xff0c;EQ的推子增加到了10段&#xff0c;外加一个总音量&#xff0c;对于…

金华职业技术学院计算机应用技术分数线,金华职业技术学院录取分数线2021是多少分(附历年录取分数线)...

金华职业技术学院录取分数线2020是多少分&#xff0c;各专业录取分数线是多少&#xff0c;是每个填报金华职业技术学院的考生最关注的问题&#xff0c;随着各省高考录取批次相继公布&#xff0c;考生也开始关心是否被录取&#xff0c;本站小编整理相关信息供参考&#xff0c;仅…

京瓷m5021cdn如何设置扫描_京瓷产品让您轻松应对潮湿天气

随着即将到来的四月&#xff0c;中国南方大部分地区也将伴随着雨季的到来。这也意味着很多复印件、打印机将会收到潮湿天气的影响&#xff0c;更容易出现卡纸、图像模糊等一系列问题。而京瓷公司最新推出的“黑金刚”系列增加了特有的感光鼓加热功能&#xff0c;有效减少机器受…

矩阵键盘简易计算机设计报告,矩阵键盘显设计报告..doc

摘要在日常生活中&#xff0c;我们经常要用到键盘来实现对电子装置的控制。小到手表手机&#xff0c;中到电视电脑&#xff0c;大到各种复杂仪器&#xff0c;都需要通过各种按键来实现各种操作。本次课程设计以按键控制显示为主题&#xff0c;以MSP430G2553单片机及其接口芯片为…

server sql 去 反斜杠_%00截断配合反序列化的奇妙利用

文章来源&#xff1a;安全客原文链接&#xff1a;%00截断配合反序列化的奇妙利用 - 安全客&#xff0c;安全资讯平台前言前段时间做了一个CTF题目&#xff0c;发现这道题目相当的精妙&#xff0c;主要是利用了%00的截断来绕过安全校验&#xff0c;最终利用反序列化达成目的。漏…

计算机内码和国际码的转换,汉字机内码、国标码和区位码之间转换关系图

《汉字机内码、国标码和区位码之间转换关系图》由会员分享&#xff0c;可在线阅读&#xff0c;更多相关《汉字机内码、国标码和区位码之间转换关系图(1页珍藏版)》请在人人文库网上搜索。1、区位码区位码 (4 4位十进制位十进制) 国标码国标码 (十六进制十六进制) 机内码机内码 …

刷卡提示57能恢复吗_硬盘格式化之后数据还能恢复吗?

硬盘格式化之后数据还能恢复吗? 移动硬盘是工作生活中常用的一种存储介质&#xff0c;如果在其中存储了重要的数据&#xff0c;但是却因为中了病毒、人为删除或者不小心误删除文件或是格式化等而导致数据丢失该怎么办&#xff1f;移动硬盘数据可以恢复吗&#xff1f;如何进行移…

win7电脑蓝屏没有修复计算机,教你win7开机蓝屏怎么修复

在使用电脑的过程中&#xff0c;经常会遇到一些问题&#xff0c;最常见的莫过于win7开机蓝屏了&#xff0c;很多朋友并不知道win7开机蓝屏怎么修复&#xff0c;那么遇到win7开机蓝屏的情况应该怎么办呢&#xff1f;下面小编针对此问题教程大家开机蓝屏怎么修复。方法一、系统自…

如何计算给定一个unigram语言模型_CS224n笔记[5]:语言模型(LM)和循环神经网络(RNNs)...

CS224n笔记[5]:语言模型&#xff08;LM&#xff09;和循环神经网络&#xff08;RNNs&#xff09;作者&#xff1a;郭必扬许久没更新了&#xff0c;十分惭愧&#xff0c;翻了翻之前的笔记&#xff0c;才之前上一期我们讲的是“依存分析”。本期&#xff0c;我们介绍一下语言模型…

怎么从计算机上删除东西吗,怎么在电脑中删除不想要的软件

在电脑中删除不想要的软件该怎么操作呢&#xff0c;那么怎么在电脑中删除不想要的软件的呢?下面是学习啦小编收集整理的怎么在电脑中删除不想要的软件&#xff0c;希望对大家有帮助~~在电脑中删除不想要的软件的方法工具/原料笔记本电脑 或者台式电脑方法/步骤用鼠标点击选择电…

js输出100以内的质数_Python 计数质数

一个很经典的问题&#xff0c;从 2 到 N &#xff0c;一共有多少个质数&#xff1f;&#xff1f;一个非常 Naive 的方法&#xff0c;从 2 到 N&#xff0c;判断每个数是不是质数只判断一个数是不是质数&#xff0c;需要 的时间&#xff0c;现在有 N 个数&#xff0c;那么就是 埃…

计算机通信常用的纠错方式,纠错

纠错是指一种用于纠正在传送或存储数据期间产生的出错数据的方法。纠错可以有几种方法&#xff0c;其中最常见的方法是重传纠错和前向纠错。中文名纠错外文名error correcting所属学科通信原理与基本技术功 能纠正产生的出错数据常见方法重传纠错、前向纠错等应 用现代数…

word总积分怎么算计算机,Word文档怎么计算积分

回答&#xff1a;1、求和&#xff1a;作一表格,填入一系列数字,光标定位于最后一格中,点击表格工具栏中的∑,即可求得总和&#xff1b;2、求平均数&#xff1a;填入一系列数字,光标定位于最后一格中,点击菜单中的“表格”-“公式”&#xff0c;在弹出对话框中填入公式“AVERAGE…

kmeans算法中的sse_聚类算法入门:k-means

一、聚类定义聚类分析(cluster analysis)就是给你一堆杂七杂八的样本数据把它们分成几个组&#xff0c;组内成员有一定的相似&#xff0c;不同组之间成员有一定的差别。区别与分类分析(classification analysis) 你事先并不知道有哪几类、划分每个类别的标准。比如垃圾分类就是…