spark算子初步 未分类

spark算子初步

秉承归零心态是学习编程必备态度的原则,这次scala也使用python的方法,把代码敲一遍,所以,就有了下面的....同样保留了试错的内容。   scala> var rdd1 = s...
阅读全文
清空AppData文件夹方法 未分类

清空AppData文件夹方法

最近固态C盘越来越慢,初步判断可能因为读写过多导致尾部块变慢,删除平时的大软件后速度果然提高到了和两年前一样(后测低于8G便减速80%) 虽然这个文件夹里面大多数文件比较重要(删除会导致软件丢失配置甚...
阅读全文
Sqoop入门 未分类

Sqoop入门

Sqoop原理 将导入或导出命令翻译成mapreduce程序来实现。 在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。 Sqoop安装 安装Sqoop的...
阅读全文
Hive 分区表和内外表 未分类

Hive 分区表和内外表

外部表 1)理论 因为表是外部表,所以Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉。 2)管理表和外部表的使用场景: 每天将收集到的网站日志定期流...
阅读全文