我想创建通过合并和追加两个现有ffdf dataframes的ffdf数据帧。 该ffdfs有列和不同行号的不同的号码。 我知道, merge()
只内,左外连接而进行ffdfappend()
将不允许追加如果列是不相同的。 我想知道如果任何人有一种解决方法。 任一类的一个函数smartbind()
中的函数gtools package
或任何其他的解决方法。
当然转换回as.data.frame()
并使用smartbind()
不是一种选择,因为ffdfs的大小。
任何帮助将不胜感激。
编辑:按照提示这里是一个重复的例子:
require(ff)
require(ffbase)
df1 <- data.frame(A=1:10, B=LETTERS[1:10], C=rnorm(10), G=1 )
df2 <- data.frame(A=11:20, D=rnorm(10), E=letters[1:10], G=1 )
ffdf1 <- as.ffdf(df1)
ffdf2 <- as.ffdf(df2)
理想的结果应该是这个样子(在data.frames生产的,如果我知道如何制造它的ffdfs我就不会问这个问题):
require(gtools)
dfcombined <- smartbind(df1, df2)
dfcombined
A B C G D E
1:1 1 A 1.1556719 1 NA <NA>
1:2 2 B 0.3279260 1 NA <NA>
1:3 3 C 0.4067643 1 NA <NA>
1:4 4 D -0.9144717 1 NA <NA>
1:5 5 E -0.1138263 1 NA <NA>
1:6 6 F 0.8227560 1 NA <NA>
1:7 7 G 0.3394098 1 NA <NA>
1:8 8 H 1.4498439 1 NA <NA>
1:9 9 I -1.3202419 1 NA <NA>
1:10 10 J 0.2099266 1 NA <NA>
2:1 11 <NA> NA 1 -1.5802636 a
2:2 12 <NA> NA 1 1.2925790 b
2:3 13 <NA> NA 1 1.3477483 c
2:4 14 <NA> NA 1 -1.6760211 d
2:5 15 <NA> NA 1 0.1456295 e
2:6 16 <NA> NA 1 0.4726867 f
2:7 17 <NA> NA 1 -1.5209117 g
2:8 18 <NA> NA 1 0.3407136 h
2:9 19 <NA> NA 1 1.3582868 i
2:10 20 <NA> NA 1 -1.5083929 j
我希望这是更清楚什么,我尽量做到。
如果你正在寻找的东西像rbind.fill
但ffdf对象。 也许这是你在找什么。 这为我工作,而不在测试例子扬准备内存问题。
require(ff)
require(ffbase)
smartffdfbind <- function(..., clone=TRUE){
x <- list(...)
columns <- lapply(x, FUN=function(x) colnames(x))
columns <- do.call(c, columns)
columns <- unique(columns)
for(element in 1:length(x)){
missingcolumns <- setdiff(columns, colnames(x[[element]]))
for(missingcolumn in missingcolumns){
x[[element]][[missingcolumn]] <- ff(NA, vmode = "logical", length = nrow(x[[element]]))
}
}
if(clone){
result <- clone(x[[1]][columns])
}else{
result <- x[[1]][columns]
}
for (l in tail(x, -1)) {
result <- ffdfappend(result[columns], l[columns], recode=TRUE)
}
result
}
ffdf1 <- ffdf(a = ffrandom(1E8, rnorm), b = ffrandom(1E8, rnorm))
ffdf2 <- ffdf(b = ffrandom(1E8, rnorm), c = ffrandom(1E8, rnorm))
x <- smartffdfbind(ffdf1, ffdf2)
nrow(x)
[1] 200000000
class(x)
"ffdf"
以下的答案似乎并不大工作ffdf
对象(1E8记录)。 最初发布它的一部分作为一个评论之后,我决定将它张贴作为答案的代码可能是一个工作的答案的起点。
一个关键是要首先合并使用例如smartmatch两个ffdf的一小部分。 然后调整此对象,以适应ffdf1和ffdf2。 复制ffdf1到该对象和ffdf2进入第二减半的第一减半:
require(gtools)
dfcombined <- as.ffdf(smartbind(ffdf1[1,], ffdf2[1,]))
nrow(dfcombined) <- nrow(ffdf1) + nrow(ffdf2)
# insert ffdf1 into dfcombined
cols1a <- names(dfcombined)[names(dfcombined) %in% names(ffdf1)]
cols1b <- names(dfcombined)[!(names(dfcombined) %in% names(ffdf1))]
dfcombined[ri(1, nrow(ffdf1)), cols1a] <- ffdf1
dfcombined[ri(1, nrow(ffdf1)), cols1b] <- NA
# insert ffdf2 into dfcombined
cols2a <- names(dfcombined)[names(dfcombined) %in% names(ffdf2)]
cols2b <- names(dfcombined)[!(names(dfcombined) %in% names(ffdf2))]
dfcombined[ri(nrow(ffdf1)+1, nrow(dfcombined)), cols2a] <- ffdf2
dfcombined[ri(nrow(ffdf1)+1, nrow(dfcombined)), cols2b] <- NA
然而,当真实的尺寸的测试这个ffdf
的ncol(dfcombined) <- ...
线产生一个错误
> ffdf1 <- ffdf(
+ a = ffrandom(1E8, rnorm),
+ b = ffrandom(1E8, rnorm)
+ )
> ffdf2 <- ffdf(
+ b = ffrandom(1E8, rnorm),
+ c = ffrandom(1E8, rnorm)
+ )
> dfcombined <- as.ffdf(smartbind(ffdf1[1,], ffdf2[1,]))
>
> nrow(dfcombined) <- nrow(ffdf1) + nrow(ffdf2)
Error: cannot allocate vector of size 762.9 Mb