25 июля 2006 года акиматом Карагандинской области и областным Департаментом физкультуры и спорта официально было принято решение об организации хоккейного клуба «Сарыарка». В дебютном сезоне команда выступала в Открытом Всероссийском соревновании по хоккею среди команд 1 лиги (дивизион «Сибирь-Дальний Восток»). По результатам сезона команда заняла третье место. Во внутреннем чемпионате «Сарыарка» финишировала на четвертом месте.В сезоне 2007–2008 годов, команда вновь выступала в первенстве России среди команд первой лиги. В том сезоне карагандинская «Сарыарка» значительно обновилась, руководством команды перед главным тренером Галымом Мамбеталиевым была поставлена задача попадания в тройку призеров. Сезон команда провела достаточно уверенно, пробилась в плей-офф, где дошла до финала и в финальной серии до двух побед переиграла хоккейный клуб «Вымпел» из Междуреченска — став чемпионом России среди команд 1 лиги. В чемпионате Казахстана «Сарыарка» закончила сезон на шестом месте.Сезон 2008–2009 годов стал для команды также дебютным. Впервые «Сарыарка» выступала в Открытом Всероссийском первенстве среди команд Высшей лиги (дивизион «Сибирь — Дальний Восток»). В межсезонье в команде сменился тренер, у руля «Сарыарки» встал Валерий Тушенцов. Карагандинский клуб сезон закончил на девятом месте. Перед стартом российского первенства, в конце августа, в Караганде прошел кубок Казахстана. По его итогам «Сарыарка» заняла второе место, обладателем же Кубка стал сатпаевский «Казахмыс». В финальном этапе Чемпионата Казахстана команда заняла четвертое место.В 2009 году при инициативе Президента Республики Казахстан было принято решение о проведении первого полноценного национального чемпионата по хоккею с шайбой среди мужских команд. В историческом для казахстанского спорта первенстве золотые медали в трудной бескомпромиссной борьбе завоевала карагандинская "Сарыарка". В сезоне 2009-2010 гг. состоялся дебют "Сарыарки" на европейской арене. Карагандинцы во втором раунде Континентального Кубка встретились с чемпионами Польши, Эстонии и Литвы. Обыграв "Калев-Вялк" (Эстония) 8-0, "Энергию" (Литва) 4-1 и минимально уступив "Краковии" (Польша) 2-3, "Сарыарка" заняла второе место в группе.С 22 по 24 октября 2010 года действующие Чемпионы Казахстана приняли участие в играх II раунда Континентального Кубка (Марибор, группа С). Карагандинцы заняли в группе 2-е место, уступив по дополнительным показателям клубу из Румынии «Меркурий».По итогам сезона 2010-2011 годов команда «Сарыарка» стала бронзовым призером Открытого Чемпионата Республики Казахстан по хоккею с шайбой.В августе 2011 года, благодаря упорной работе директора клуба – Нигматулина Аргына Зайруллаевича, при ХК «Сарыарка» была создана молодёжная команда, которая выступила в Chevrolet Первенстве Молодежной Хоккейной Лиги - Всероссийского соревнования по хоккею с шайбой среди молодежных команд.По итогам сезона 2011-2012 годов команда «Сарыарка» вновь стала бронзовым призером Открытого Чемпионата Республики Казахстан по хоккею с шайбой.В сезоне 2012-13 годов «Сарыарка» успешно дебютировала в Высшей хоккейной лиге Всероссийского первенства по хоккею, поставив рекорд ВХЛ и КХЛ по количеству выигрышных матчей. 23 игры подряд с октября 2012 года по январь 2013 года ни одной из команд соперников, включая фаворитов ВХЛ, не удавалось одолеть «Сарыарку». В результате «Сарыарка» стала победителем регулярного чемпионата ВХЛ и финалистом розыгрыша «Братины». Сезон 2013-2014 начался для карагандинской команды неудачно. В межсезонье клуб покинули ряд ведущих игроков. Руководству клуба в лице Нигматулина Аргына Зайруллаевича приходилось создавать команду с чистого листа. В итоге «Сарыарка» сумела одержать победу лишь в одном из первых семи матчей очередного чемпионата ВХЛ. Однако талантливый менеджер сумел найти выход из кризисной ситуации. Пойдя на огромный риск, руководство хоккейного клуба «Сарыарка» решилось на кадровые перестановки в тренерском штабе команды. В команду был приглашен словацкий специалист Грегор Душан, ранее не сумевший должным образом проявить себя в чемпионате ВХЛ. Его предыдущая команда была одним из аутсайдеров лиги. Как показало время, риск был оправдан - «Сарыарка» возродилась словно «феникс из пепла». Поднявшись с самых низов турнирной таблицы, карагандинская команда в итоге поднялась до самых вершин. В решающей стадии чемпионата ВХЛ – битве за «Братину» (кубок победителя чемпионата), «Сарыарка» катком прошлась по своим соперникам на стадиях 1/8, 1/4 и 1/2 финала. Был установлен новый рекорд, аналогов которому нет в современном хоккее. Карагандинская команда сумела одержать 12 побед подряд в плей-офф в одном сезоне. Победная серия прервалась лишь в финале плей-офф, но это не помешало карагандинскому клубу стать чемпионом, обыграв в финальной серии один из самых сильнейших клубов ВХЛ – тюменский «Рубин». По итогам решающих матчей битвы за «Братину» самым ценным игроком плей-офф ВХЛ был признан форвард «Сарыарки» Константин Макаров. Нападающий «Сарыарки» стал лучшим бомбардиром и снайпером плей-офф, набрав 24 (16+8) очка по системе «гол+пас» в 19 матчах. В финальной серии с «Рубином» Макаров забрасывал шайбы в четырех матчах из шести, в том числе в трех первых встречах подряд. {lightyoutube}YJytfsSSwK4{/lightyoutube} В сезоне 2014-2015 годов «Сарыарка» стала победителем Матча Открытия, а также победителем регулярного чемпионата ВХЛ и полуфиналистом розыгрыша «Братины». Лучшим нападающим прошедшего сезона стал Олег Ломако. В регулярном чемпионате-2014/15 он провел 48 матчей, забросил 22 шайбы и сделал 19 голевых передач, проводя в среднем 13 минут 47 секунд на льду за матч и набирая в среднем 0,85 очка за игру. В плей-офф Ломако провел 16 матчей, забросил 5 шайб и сделал 1 результативную передачу. Олег Ломако также признан лучшим игроком регулярного чемпионата по мнению всех хоккеистов лиги. Нападающий получил приз имени Анатолия Фирсова. Лучшим защитником лиги стал Александр Угольников из карагандинской «Сарыарки». В регулярном чемпионате Угольников провел 50 матчей, забросил 6 шайб и сделал 20 результативных передач, заработав 40 штрафных минут. В плей-офф он провел 15 матчей, забросил 2 шайбы и сделал 3 голевых передачи. Всего в течение сезона заработал коэффициент полезности «плюс 34». В регулярном чемпионате ВХЛ сезона 2014-2015 годов домашние матчи «Сарыарки» в среднем посещали 4472 человека. Карагандинский клуб стал самым посещаемым в лиге по итогам регулярного чемпионата. В плей-офф эта цифра достигла 4915 человек в среднем за матч. В сезоне 2018-2019 годов ХК "Сарыарка" стала обладателем Кубка Петрова. Карагандинская Сарыарка установила новый рекорд Высшей хоккейной лиги — стала самой низкопосеянной командой, ставшей обладателем Кубка Петрова.В нынешнем регулярном чемпионате Сарыарка заняла десятое место. До этого ни одному клубу, посеянному так низко по итогам «регулярки», не удавалось стать чемпионом.