Несколько лет пользовались услугой «Облачное хранилище» от Selectel, а также раздачей данных через CDN, мощности которого Selectel арендует у Akamai.
До декабря прошлого года все шло хорошо, но потом расходуемый трафик по CDN резко подскочил, хотя аудитория сервиса в количественном объеме не изменилась. Служба тех. поддержки оперативно вышла на связь, однако на просьбу помочь установить, обращение к каким файлам дает возросший трафик, ответили, что могут предоставить логи запросов, и то эти логи нужно ждать несколько дней, т.к. они запрашиваются непосредственно у Akamai.
Прождав семь дней, логи были получены. Отмечу, что пока мы ждали, трафик продолжал потребляться с бешеной скоростью, а деньги с пользовательского счета списываются в реальном времени, поэтому вся эта ситуация нас очень напрягала. К большому разочарованию, тех. поддержка решила не идти на встречу клиенту, уведомив, что анализировать логи нужно самостоятельно:
Обработку журналов вам следует выполнить самостоятельно. Рекомендуем использовать для этого, например, утилиты командной строки Unix, таких как awk, sort, uniq, позволяющие работать с большими объемами текста.
Весьма странная позиция для компании, которая специализирует себя как одного из лидеров по предоставлению облачных услуг. Пишу:
У меня нет Linux и достаточных значений, чтобы с этими утилитами работать. Мне также придется разбираться, как отсортировать 1,7 данных логов таким образом, чтобы узнать наиболее часто запрашиваемые файлы. Думаю, что ваши специалисты намного компетентны в данном вопросе, и смогут весьма оперативно произвести необходимые действия. Надеюсь на ваше понимание.
Ответ:
Мы оказываем услуги по предоставлению инфраструктуры, услуги обработки массивов информации, к сожалению, отсутствуют. В данном случае вы можете воспользоваться знакомыми вам утилитами для имеющейся операционной системы или обратиться к профильным специалистам.
Пишу:
Хорошо, тогда вопрос про инфраструктуру — мы можем сделать так, чтобы файлы, раздающиеся с CDN, были доступны только с тех запрашиваемых ресурсов, которые мы обозначим? Т.е. что-то вроде антилича. Например, чтобы файл http://kino1tv-a.akamaihd.net/18/cover.jpg был доступен только при запросе с site.com, но не был доступен, если его запрашивает ресурс foo.com Какие настройки на вашей стороне для этого нужно сделать?
Ответ:
Функция подобного ограничения запросов к хранилищу, как по доменам, так и по IP-адресам или иным образом, отсутствует.
После этого ответа мы решили отказаться от Selectel и перейти на NGENIX, благо у них проблем с такой функциональностью нет. Переход на NGENIX был осуществлен в конце января, тогда же мы закрыли на Selectel доступ к директории, с которой раздавались данные. Здесь мы ожидали, что трафик по CDN сократится до нуля, однако он все шел и шел, а деньги со счета списывались и списывались.
Пишем:
Сегодня в районе 15:40 мы сделали контейнер cdn/ приватным, и отвязали домен xxx.akamaihd.net, однако трафик за CDN продолжает идти. Скажите, пожалуйста, почему такое происходит и когда трафик за CDN упадет до 0?
Отвечают:
К сожалению, статистика по расходу трафика услуги CDN приходит с некоторой задержкой. В связи с этим вы можете наблюдать списания средств даже после того, как вы перестали использовать CDN. Также со стороны серверов Akamai предоставление услуги будет приостановлено после обновления кеша в течение 24 часов.
Ждем сутки, а результат никакой. Пишем:
Спасибо, но нам все же непонятно, от куда берутся данные о потреблении трафика (при чем В РЕАЛЬНОМ ВРЕМЕНИ), в то время как этому трафику просто неоткуда взяться — 24 часа прошло еще два часа назад, а трафик все равно растет. Я правильно понимаю, что вы произведете потом перерасчет потребления трафика и сделаете возврат денежных средств?
Отвечают:
Это связано с задержкой, о которой мы говорили выше. Поскольку на серверах Akamai кешированные данные сбрасываются в течение 24 часов, вы можете наблюдать изменение по трафику в вашей статистике. В силу технических особенностей задержку по предоставлению данной услуги определить более точно не представляется возможным. Для более точного анализа мы можем предоставить лог запросов к CDN Akamai в случае необходимости. Приносим извинения за доставленные неудобства.
Далее пошла длиннющая переписка, растянувшаяся вплоть до конца марта. За это время каждый день в размере ~589.00 ГБ расходовался трафик, хотя по факту этого не могло быть – директория с данными была закрыта.
Мы провели анализ потребления трафика через CDN, согласно данным вашей панели статистики, и обнаружили, что по ряду дней количество потребляемого трафика идентично, что в реальности быть просто не может:
02.02.2017: 609.00 ГБ
05.02.2017: 609.00 ГБ
07.02.2017: 629.00 ГБ
08.02.2017: 629.00 ГБ
10.02.2017: 589.00 ГБ
11.02.2017: 589.00 ГБ
12.02.2017: 589.00 ГБ
13.02.2017: 589.00 ГБ
15.02.2017: 589.00 ГБ
17.02.2017: 589.00 ГБ
18.02.2017: 589.00 ГБНа основании этих данных мы делаем вывод, что проблемы со статистикой потребления трафика имеют систематический характер, в результате чего у нас больше нет доверия к вашей отчетности по трафику CDN. О проблемах чрезмерного потребления трафика (исходя из данных статистики) по CDN было заявлено в этом тикете в декабре, и как мы понимаете, именно в декабре и начались проблемы с подсчетом трафика.
Финальный ответ от Selectel, подтверждающий проблему на их стороне:
К сожалению, решение проблемы действительно заняло у нас значительно большее количество времени, чем планировалось, как по техническим, так и по организационным причинам. Несмотря на то, что ошибка выглядит достаточно простой, она во-первых происходит в зоне ответственности между нашей компанией и нашими партнерами, во-вторых воспроизводится в единичных случаях, что затрудняет отладку и поиск причины. В совокупности эти аспекты существенным образом повлияли на сроки решения проблемы.
Мы полностью компенсируем Вам все средства, ошибочно списанные с Вашего баланса. Исправление проблемы будет завершено в ближайшие несколько дней.
Помимо этого, в ближайшие несколько месяцев мы планируем достаточно большое обновление услуги, вместе с этим обновлением будут исправлено большое количество ошибок, улучшена стабильность и производительность. Кроме того, будут пересмотрены и цены на хранение данных.
Приносим извинения за все возможные неудобства и надеемся на Ваше понимание!
Итого, на решение биллинговой проблемы у Selectel ушло три месяца.