数据准备上传到服务器的Redis(Data preparation to upload into R

2019-09-27 23:15发布

我有一个10GB的.xml文件,其中我想利用大众插入上传到服务器的Redis。 我需要就如何这个.XML数据转换成一些关键的,价值或redis的支持的任何其它数据结构? 我与堆栈工作过流转储和例如,如果我走了comments.xml。

数据模式:行ID =“5”帖子ID =“5”分数=“9”文本=“!这是一个超级AI理论问题上的有趣的讨论,但出来的地方......” CreationDate =“2014-05-14T00 :23:15.437" 用户ID = “34”

比方说,我想检索由特定用户ID或某一特定日期我怎么做,作出的评论?

首先,

  1. 如何准备这个.XML日期为适合Redis的数据结构。

  2. 我怎样才能上传到Redis的。 我在Windows上使用Redis的。 命令管道和猫似乎并没有工作。 我使用CentOS的疲惫,但我更喜欢在Windows上使用Redis的。

Answer 1:

在你选择合适的数据结构,你需要了解你会做出什么样的奎雷斯的。 例如,如果你有用户特定的数据,你需要为每个用户组不同用户的活动,并已汇总,你需要去不同的结构,建立索引,数据分割成块等结果。

相对的大量聚集的数据(45GB)的,我发现可用SortedSets与ZRANGE,因为它具有更好的复杂性LRANGE。 您可以根据您的数据大小的块分割你的数据和线程分别处理每个ZRANGE然后与结果相结合。

在该结构的顶部,你可以在这里你只需要遍历数据相对少量的数据列表添加索引。



文章来源: Data preparation to upload into Redis server
标签: redis bigdata