R - интеллектуальный анализ текста по нескольким столбцам с расстоянием Левенштейна

Я хотел бы сравнивать текстовые строки несколько раз в нескольких столбцах с помощью расстояния Левенштейна (функция adist в R). Что я хотел бы сделать, так это сравнить source1$name с source2$name. Если совпадения нет (т. е. если для match.s1.s2$s2.i возвращается NA, выполните ту же функцию, используя адреса (source1$address и source2$address), перечисленные в двух фреймах данных. В основном я ищу способ уточнить совпадения по нескольким полям. Пример ниже.

name <- c("holiday inn", "geico", "zgf", "morton phillips")
address <- c("400 lafayette pl tupelo ms", "227 geico plaza chevy chase md", 
         "811 quincy st washington dc", "1911 1st st rockville md")

source1 <- data.frame(name, address)

name <- c("williams sonoma", "mamas bbq", "davis polk", "hop a long diner",
      "joes crag shack", "mike lowry place", "holiday inn", "zummer")

name2 <- c(NA, NA, NA, NA, NA, NA, "hi express", "zummer gunsul frasca")
address <- c("2 reads way new castle de", "248 w 4th st newark de",
         "1100 21st st nw washington dc", "1804 w 5th st wilmington de",
         "1208 kenwood parkway holdridge nb", "4203 ocean drive miami fl",
         "400 lafayette pl tupelo ms", "811 quincy st washington dc")
source2 <- data.frame(name, name2, address)

removeSPE <- function(x) gsub("[[:punct:]]", " ", x)

cleanup <- function(x){
x <- as.character(x) # convert to character
x <- tolower(x) # make all lowercase
x <- sapply(x, removeSPE) # remove special characters
x <- trimws(x) # remove extra white space
#x <- sapply(x, removeStopWords) # remove stopwords, defined above
#x <- trimws(x) # since stopwords have been removed, there is extra white space left, this removes it
x <- gsub("^. .$", "", x)
return(x)
}

source1$name <- cleanup(source1$name)
source2$name <- cleanup(source2$name)
source2$name2 <- cleanup(source2$name2)

source1$address <- cleanup(source1$address)
source2$address <- cleanup(source2$address)

source1$name <- cleanup(source1$name)
source2$name <- cleanup(source2$name)
source2$name2 <- cleanup(source2$name2)

dist.name<- adist(source1$name,source2$name, partial = TRUE, ignore.case = TRUE)
dist.name2 <- adist(source1$name, source2$name2, partial = TRUE, ignore.case = TRUE)
dist.address <- adist(source1$address, source2$address, partial = TRUE, ignore.case = TRUE)

min.name<-apply(dist.name, 2, min)
min.name2 <- apply(dist.name2, 2, min)


match.s1.s2<-NULL  
for(i in 1:nrow(dist.address))
{
s2.i<-match(min.name[i],dist.name[i,])
s1.i<-i
match.s1.s2<-
rbind(data.frame(s2.i=s2.i,s1.i=s1.i,s2name=source2[s2.i,]$name, s1name=source1[s1.i,]$name, 
                            adist=min.name[i], s1.i.address = source1[s1.i,]$address,
                            s2.i.address = source2[s2.i,]$address),match.s1.s2)
}

match.s1.s2

Желаемый результат состоит в том, что строка 3 в source1 соответствует строке 8 в source2, а строка 4 в source1 соответствует строке 7 в source2. есть ли способ включить dist.name2 и dist.address (определенные выше) в вышеуказанный for-loop? Может быть, оператор while? Фактические фреймы данных, которые я буду использовать, содержат примерно 500 и 24 000 строк.


r text for-loop tm levenshtein-distance
person jvalenti    schedule 21.12.2017    source источник

Ответы (1)


arrow_upward
1
arrow_downward

Косинусное расстояние, кажется, делает довольно хорошую работу:

out_df <- c()
for(x in source1$name) {
  for(y in source2$full2) {
    if (is.na(source2[source2$full2 == y, "name2"])) {
      x2 <- source1[source1$name == x, "address"]
      y2 <- source2[source2$full2 == y, "address"]
      row <- data.frame(x, y2, stringdist(x, y, method="cosine", q = 1))
      names(row) <- c("name1", "full2", "distance")
      out_df <- rbind(out_df, row)
    } else {
      row <- data.frame(x, y, stringdist(x, y, method="cosine", q = 1))
      names(row) <- c("name1", "full2", "distance")
      out_df <- rbind(out_df, row)
    }
  }
}

names(out_df) <- c("name1", "full2", "distance")

grab <- aggregate(distance ~ name1, data = out_df, FUN = min)

merge(out_df, grab)

Вам все равно придется выяснить, как исключить результаты, которые вам не нужны.

person AidanGawronski    schedule 21.12.2017
comment
что с адресами? - person jvalenti; 21.12.2017
comment
Я имел в виду использование расстояния между адресами в качестве критерия соответствия, если для совпадения имени было NA. Поэтому, если совпадение имени не возвращает совпадения, выполните поиск ближайшего совпадения с адресом. похоже, что это просто добавляет адреса во фрейм данных. - person jvalenti; 21.12.2017
comment
Я давно отредактировал, чтобы учесть адреса, но, думаю, SO не уведомил вас. - person AidanGawronski; 31.01.2018