Можно ли уехать из Клинцов? (data mining of blablacar.ru)

3 November 2017

Парсинг сайта blablacar.ru и анализ пассажиропотока из г. Клинцы Брянской области с помощью языка программирования R.

Предыстория

По воле разных обстоятельств дауншифтнулся в небольшой город Брянской области (г. Клинцы). Живу, работаю, интересуюсь культурным отдыхом. «Куда здесь можно сходить?» — спрашиваю у местных. «Лучше всего сходить на вокзал за билетами», — доброжелательно советуют клинчане.

Идея понравилась, и в качестве отдохновения от забот решил заняться одно-двухдневными путешествиями, выбрав для этой цели Блаблакар (экономичнее, по идее, время поездок проще подобрать, с водителем можно пообщаться, выбор маршрутов больше).

Чтобы лучше представлять: куда, когда, как и за сколько из Клинцов можно уехать, — провёл небольшое исследование. Результатами, алгоритмом, скриптами и данными делюсь в этой статье.

Библиотеки R

Для проведения исследования использованы следующие библиотеки R:

  • rvest, Rselenium — парсинг данных;
  • dplyr, tidyr — манипуляция с данными;
  • ggplot2, ggmap, grid, gridExtra — визуализация;
  • forecast, zoo — работа с временными рядами;
  • сaret, xgboost, mlr — машинное обучение.

Получение данных

Собрать данные с сайта стандартными средствами R (библиотека rvest) с ходу не удалось. Блаблакар работает на JS, который формирует динамические страницы в зависимости от запроса пользователя, а функции rvest их не поддерживают.

Так как с веб-технологиями я знаком постольку-поскольку, то не сталь разбираться, где и что лежит на сервере и как именно подтягивается, а выбрал более простое, как мне показалось, решение.

Установил на машине сервер Rselenium, через него запускал Google Chrome, который формировал нужную страницу и сохранял выдачу. Далее страница без проблем парсилась R.

Блаблакар предоставляет данные всего лишь за два месяца (713 поездок), поэтому эта схема отлично сработала (раза с третьего, весело поскрипывая костылями, сервер запустился). Однако не уверен, что алгоритм подойдёт для парсинга большего количества страниц — слишком много времени и ресурсов уходит, много узких мест.

Динамика и предсказание трафика

В среднем из Клинцов выезжает 10 машин в день, максимум — 35. Трафик растущий. Что влияет на положительную динамику — сезон отпусков, более благоприятная дорожная обстановка летом, долгосрочный рост аудитории сервиса — сложно точно сказать. Нужны данные хотя бы за пару лет.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Предсказать трафик на ближайшую неделю или месяц тоже проблематично. Протестировал несколько моделей, но точность предсказаний оставляет желать лучшего.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Самые популярные направления

За два месяца машины из Клинцов отправлялись в 59 разных городов. Однако основных направлений немного: Брянск (40% всех поездок), Москва (18%), города Брянской области, Гомель (приграничный город в Белоруссии, областной центр), Орёл, Смоленск — 88% от всех поездок.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Если нанести пункты назначения на карту, то получится почти идеальная окружность с центром в Клинцах и радиусом 1000-1200 км, плотная в центре и разряженная ближе к периферии. Также хорошо видна дуга «Клинцы-Брянск-Калуга-Москва».

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

То есть в основном клинчане путешествуют по месту, регулярно ездят в близлежащие областные центры и в МСК.

Стоимость проезда

Стоимость проезда у всех водителей примерно одинаковая: около 100 р. — по области, в среднем 280 р. — Брянск, 900 р. — Москва. Это где-то на 25% дешевле, чем у регулярных перевозчиков.

Самый большой разброс цен — на билеты в Орёл (от 350 до 600 р.) и Смоленск (от 450 до 650 рублей).

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Как ни странно, цена поездки не всегда зависит от расстояния. Дороже всего съездить из Клинцов на Юг и Кавказ — 1500-2300 р. За аналогичные расстояния в направлении Европы просят раза в два меньше.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Анализ водителей

Меня заинтересовала мотивация водителей. Почему они берут пассажиров? Есть ли среди них те, кто пользуется сервисом для получения коммерческой выгоды?

54% водителей за два месяца только 1 раз воспользовались сервисом. Остальные ездят с частотой от 1 раза в месяц до 1 раза в неделю, вероятно, по рабочим делам — пассажиров берут в целях снижения дорожных расходов.

Я нашёл только одного человека, который, скорее всего (но это неточно), занимается коммерческим извозом (маршрутное такси, маршрут «Новозыбков — Клинцы — Москва», каждые три дня).

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Время отправления

Легче всего уехать из Клинцов с 16:00 до 19:00. Автомобили до Москвы отправляются в ночь, часов в девять вечера.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Чаще всего люди уезжают из города во вторник, пятницу и воскресенье.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Заключение

По результатам исследования я составил расписание, которое поясняет, куда, когда и за сколько с наибольшей вероятностью можно уехать, если появится такое желание.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Также я обучил алгоритм xgboost, который на основании дня недели и времени отправления предсказывает наиболее вероятный маршрут.

Самым информативным признаком оказался час отправления. Глубокой ночью модель стабильно советует ехать в Новозыбков, днём — в Брянск, вечером — в Москву. Поездки в другие города xgboost находит маловероятными.

Можно ли уехать из Клинцов? (data mining of blablacar.ru)

Если ответить на вопрос, вынесенный в заголовок, то ответ: «Да, из Клинцов можно уехать. Это ж не Омск».

Код на GithHub

Данные на GoogleSheets