dplyr :: group_by(),filter(), select(),mutate(),arrange(),summarise()

Published on

http://dplyr.tidyverse.org/articles/two-table.html
http://r4ds.had.co.nz/transform.html
https://github.com/hadley
http://cran.r-project.org/web/packages/dplyr/vignettes/introduction.html
http://www.starkingdom.co.uk/r-data-frames-dplyr-vs-sqldf/
lecture
http://wsyang.com/2014/02/introduction-to-dplyr/

R

 dplyr()이란 ?

  • Hadley Wickham이 만든 팩키지 중 하나 : dplyr, reshape2, ggplot2
  • plyr 팩키지는 모든 함수가 R로 작성되어 처리 속도가 느리다는 단점이 있었으나,
    dplyr 팩키지는 C++로 작성되어 불필요한 함수를 불러오지 않기 때문에 처리속도가 빠르다.
  • dplyr 패키지는 data.frame 처리뿐아니라, 아래 형식의 데이터를 이용가능함
    – data.table와 함께 사용하면,  단순히 data.frame을 사용했을 때보다 속도가 빠르다
    dplyr also provides data table methods for all verbs through dtplyr.
    – 각종 데이터베이스 : 현재 MySQL, PostgreSQL, SQLite, BigQuery를 지원
    – 데이터 큐브 : dplyr 패키지 내부에 실험적으로 내장됨 tbl_cube()
  • 결과는 data.frame (결과가 항상 같은 형식으로 나와 Chaining이 가능)

* plyr 와 dplyr 를 함께 사용할때에는 항상 plyr 라이브러리를 dplyr보다 먼저 로딩해야한다. 

Verb

dplyr 패키지의 기본이 되는 것은 다음 5개 함수입니다.

Single-table verb

row

함수명내용유사함수
arrange()정렬order(), sort()
filter()조건에 맞는 “행”데이터 추출,
slice()는 위치기준에 맞게 추출
subset()
distinct()unique()

Column

함수명내용유사함수
select()기존의 열 추출data[, c(“Year”, Month”)],
rename()
mutate()새로운 열 추가, transmute()transform()
summarise()집계aggregate()

그룹 Operation

함수명내용유사함수
group_by()그룹별로 다양한 집계

dplyr 때문에 Overwrite된  기본 filter()와 lag()를 사용하려면,  
 stats::filter()   ,  stats::lag()로 사용하면 됨

multiful-table verb

함수명내용
 left joinall x + matching y
 inner joinmatching x + y
 semi joinall x with       matching in y
 anti joinall x without matching in y

예제

0. 데이터 준비

data – nycflights13   :   # NYC를 출발하는 모든 비행기의 2013년 이착륙기록 ,  # 336,776건의 이착륙기록에 대해 19개 항목을 수집한 데이터

data.frame에서  tbl_df 객체로생성.

R

1.<Row행>  정렬 – arrange()

order by와 비슷한 기능.
지정한 열을 기준으로 작은 값으로부터 큰 값의 순으로 데이터를 정렬, 역순으로 정렬시 desc()활용

 year, month, day 순으로 정렬

R

 descending order (역순)

R

Missing values

Ascending, descending 이든  항상 가장 마지막에 정렬된다.

2. <Row행>의 일부 데이터 추출 – filter()

조건에 따라 행(row)의 subset 추출

R

Logical operators

Complete set of boolean operations. `x` is the left-hand circle, `y` is the right-hand circle, and the shaded region show which parts each operator selects.

De Morgan’s law:  
!(x & y) is the same as !x | !y,
!(x | y) is the same as !x & !y.

Don’t use  && and ||.

기본적으로 , 는  AND & 조건

R

OR | 조건 예

R

NA (Not available, Unknown value)

거의 모든 연산에 대한 NA의 결과는 NA 다.

R

예외>

R

is.na(x)  NA 를 찾는 가장 좋은 방법

R

3.<Row행> distinct (unique) 행 추출 – distinct()

R

4.<Column열> 추출 – select()

R

지정한 열 제외   -

R

지정한 열 뒤에 모든 열  everything()

R

같이 쓰기 유용한 함수들

starts_with(“abc”) “abc” 로 시작하는..
ends_with(“xyz”)“xyz” 로 끝나는
contains(“ijk”)“ijk” 를 포함하는 (대소문자구분 안함)
matches(“(.)\\1”)정규식을 만족하는  (in 과 비슷)
num_range(“x”, 1:3)matches x1, x2 and x3

5.<Column열> 신규 열 추가 – mutate()

transform()도 비슷한 기능을 하지만, mutate()는 추가된 열을 같은 함수에서 바로 사용가능

R

추가된 열만 사용할때  transmute()

R

연산

http://r4ds.had.co.nz/transform.html#mutate-funs

6. 집계 – summarise()

group_by와 함께 사용할때, 훨씬 더 유용하다.

min(), max(), mean(), sum(), sd(), var(), median(), and IQR()등의 함수를 지정하여 기초 통계량 계산
dplyr에서 추가적으로 제공하는 함수들    n():  현 그룹의 obs.갯수,  n_distinct(x): unique값의 갯수,
                                                                           first(x): x[1] ,  last(x): x[length(x)],  nth(x, n)

R

group_by()와 함께

R

NA 값 미리 제거

R

7.<Row행> 그룹화 – group_by()

지정한 열의 수준(level)별로 그룹화된 결과를 얻을 수 있습니다.

R

예> 항공사별로  평균 연착시간을 계산하고, 그 중 비행편수 20편 이상, 평균 비행 거리 2,000마일 이상

R

다른예

R

8. <Row행>  랜덤 샘플링  – sample_n()

bootstrap sample을 위해 replace = TRUE 옵션 사용

R

summarise_each(), mutate_each()

하나의 변수에 대해 복수의 통계값

R

 Pipe, Chaining – chain()

ggplot2 패키지에서 ‘+’ 연산자 또는 Uninx의  pipe 연산와 비슷.
작성순서와 데이터변형 순서가 같다는 점이 장점

chain() 혹은 %>%를 이용하여 각 함수를 연결,
임시 dataFrame 생성없이 최종결과를 얻을 수 있음 ( 첫 번째 인수인 DataFrame생략.

http://datum.io/dplyr-easydatahandling/
NewImage
NewImage

다른 예>

R

Window Functions

dplyr 패키지에서 유용한 기능 중에 하나가 window functions인데, lead 함수와 lag 함수가 상당히 유용하다.

R
Categories: Reshaping

onesixx

Blog Owner