dplyr :: group_by(),filter(), select(),mutate(),arrange(),summarise()
http://dplyr.tidyverse.org/articles/two-table.html
http://r4ds.had.co.nz/transform.html
https://github.com/hadley
http://cran.r-project.org/web/packages/dplyr/vignettes/introduction.html
http://www.starkingdom.co.uk/r-data-frames-dplyr-vs-sqldf/
lecture
http://wsyang.com/2014/02/introduction-to-dplyr/
dplyr()이란 ?
- Hadley Wickham이 만든 팩키지 중 하나 : dplyr, reshape2, ggplot2
- plyr 팩키지는 모든 함수가 R로 작성되어 처리 속도가 느리다는 단점이 있었으나,
dplyr 팩키지는 C++로 작성되어 불필요한 함수를 불러오지 않기 때문에 처리속도가 빠르다. - dplyr 패키지는 data.frame 처리뿐아니라, 아래 형식의 데이터를 이용가능함
– data.table와 함께 사용하면, 단순히 data.frame을 사용했을 때보다 속도가 빠르다
dplyr also provides data table methods for all verbs through dtplyr.
– 각종 데이터베이스 : 현재 MySQL, PostgreSQL, SQLite, BigQuery를 지원
– 데이터 큐브 : dplyr 패키지 내부에 실험적으로 내장됨 tbl_cube() - 결과는 data.frame (결과가 항상 같은 형식으로 나와 Chaining이 가능)
* plyr 와 dplyr 를 함께 사용할때에는 항상 plyr 라이브러리를 dplyr보다 먼저 로딩해야한다.
- tidyr
- dplyr
- row
filter()
, distinct(),arrange()
- sample_n(), slice_sample(), sample_frac()
group_by()
,summarise()
, summarise_each()
- column
- two table
join()
, right_join()
- etc.
- rename()
- row
- tibble
rownames_to_column
Verb
dplyr 패키지의 기본이 되는 것은 다음 5개 함수입니다.
Single-table verb
row
함수명 | 내용 | 유사함수 |
arrange() | 정렬 | order(), sort() |
filter() | 조건에 맞는 “행”데이터 추출, slice()는 위치기준에 맞게 추출 | subset() |
distinct() | unique() |
Column
함수명 | 내용 | 유사함수 |
select() | 기존의 열 추출 | data[, c(“Year”, Month”)], rename() |
mutate() | 새로운 열 추가, transmute() | transform() |
summarise() | 집계 | aggregate() |
그룹 Operation
함수명 | 내용 | 유사함수 |
---|---|---|
group_by() | 그룹별로 다양한 집계 |
dplyr 때문에 Overwrite된 기본 filter()와 lag()를 사용하려면,
stats::filter()
, stats::lag()
로 사용하면 됨
multiful-table verb
함수명 | 내용 |
---|---|
left join | all x + matching y |
inner join | matching x + y |
semi join | all x with matching in y |
anti join | all x without matching in y |
예제
0. 데이터 준비
data – nycflights13 : # NYC를 출발하는 모든 비행기의 2013년 이착륙기록 , # 336,776건의 이착륙기록에 대해 19개 항목을 수집한 데이터
data.frame에서 tbl_df 객체로생성.
1.<Row행> 정렬 – arrange()
order by와 비슷한 기능.
지정한 열을 기준으로 작은 값으로부터 큰 값의 순으로 데이터를 정렬, 역순으로 정렬시 desc()활용
year, month, day 순으로 정렬
descending order (역순)
Missing values
Ascending, descending 이든 항상 가장 마지막에 정렬된다.
2. <Row행>의 일부 데이터 추출 – filter()
조건에 따라 행(row)의 subset 추출
Logical operators

De Morgan’s law: !(x & y)
is the same as !x | !y
,!(x | y)
is the same as !x & !y
.
Don’t use &&
and ||
.
기본적으로 , 는 AND & 조건
OR | 조건 예
filter + str_dect(), between()
dd %>% filter(str_detect(이름, “식$”))
dd %>% filter(between(나이, 17, 24))
NA (Not available, Unknown value)
거의 모든 연산에 대한 NA의 결과는 NA 다.
예외>
is.na(x) NA 를 찾는 가장 좋은 방법
3.<Row행> distinct (unique) 행 추출 – distinct()
4.<Column열> 추출 – select()
지정한 열 제외 -
지정한 열 뒤에 모든 열 everything()
같이 쓰기 유용한 함수들
starts_with(“abc”) | “abc” 로 시작하는.. |
ends_with(“xyz”) | “xyz” 로 끝나는 |
contains(“ijk”) | “ijk” 를 포함하는 (대소문자구분 안함) |
matches(“(.)\\1”) | 정규식을 만족하는 (in 과 비슷) |
num_range(“x”, 1:3) | matches x1, x2 and x3 |
5.<Column열> 신규 열 추가 – mutate()
transform()도 비슷한 기능을 하지만, mutate()는 추가된 열을 같은 함수에서 바로 사용가능
추가된 열만 사용할때 transmute()
연산
http://r4ds.had.co.nz/transform.html#mutate-funs
6. 집계 – summarise()
group_by와 함께 사용할때, 훨씬 더 유용하다.
min(), max(), mean(), sum(), sd(), var(), median(), and IQR()등의 함수를 지정하여 기초 통계량 계산
dplyr에서 추가적으로 제공하는 함수들 n(): 현 그룹의 obs.갯수, n_distinct(x): unique값의 갯수,
first(x): x[1] , last(x): x[length(x)], nth(x, n)
group_by()와 함께
NA 값 미리 제거
7.<Row행> 그룹화 – group_by()
지정한 열의 수준(level)별로 그룹화된 결과를 얻을 수 있습니다.

예> 항공사별로 평균 연착시간을 계산하고, 그 중 비행편수 20편 이상, 평균 비행 거리 2,000마일 이상
다른예
8. <Row행> 랜덤 샘플링 – sample_n()
bootstrap sample을 위해 replace = TRUE 옵션 사용
summarise_each(), mutate_each()
하나의 변수에 대해 복수의 통계값
Pipe, Chaining – chain()
ggplot2 패키지에서 ‘+’ 연산자 또는 Uninx의 pipe 연산와 비슷.
작성순서와 데이터변형 순서가 같다는 점이 장점
chain() 혹은 %>%를 이용하여 각 함수를 연결,
임시 dataFrame 생성없이 최종결과를 얻을 수 있음 ( 첫 번째 인수인 DataFrame생략.
http://datum.io/dplyr-easydatahandling/


다른 예>
Window Functions
dplyr 패키지에서 유용한 기능 중에 하나가 window functions인데, lead 함수와 lag 함수가 상당히 유용하다.