Saldırı, başkent Sanaa'nın yaklaşık 170 kilometre doğusundaki Marib kasabası yakınlarında düzenlendi.
Kontrol noktalarındaki birliklere gıda taşıyan askerler, araçlarında pusuya düşürüldü.
Saldırganlar ise olay yerinden kaçtı.
Bir yetkili, saldırının El Kaide'nin eylemlerinin izini taşıdığını söyledi.
El Kaide iki hafta önce de Marib'de benzer bir saldırı düzenlemişti.
Yemen'de, örgüt militanı olduklarından şüphelenilen kişiler, geçtiğimiz yıl boyunca askeri yetkililerle istihbarat yetkililerine saldırılar düzenlemekle suçlanmışlardı.
ABD'den vatandaşlarına uyarı
Öte yandan Amerika Birleşik Devletleri, vatandaşlarını Yemen'e seyahatten kaçınmaları yolunda uyardı.
ABD Dışişleri Bakanlığı'ndan yapılan açıklamada, Yemen'deki Amerikan vatandaşlarının da, bu ülkeden ayrılmayı değrlendirmesi gerektiği belirtildi.
Açıklamada, Yemen'de güvenlik tehdidi düzeyinin "terör faaliyetleri ve kargaşa ortamı yüzünden çok yüksek olduğuna" dikkat çekildi.
Amerika Birleşik Devletleri'nden önce İngiltere de vatandaşlarına benzer bir uyarıda bulunmuştu.
Yemen'de haftalardır, 1978'den beri iktidarda olan Devlet Başkanı Ali Abdullah Salih'in istifası talebiyle gösteriler düzenleniyor.
Yemen'de isyancılarla hükümet arasında 2004'ten beri aralıklarla devam eden ve binlerce kişinin ölümüne neden olan çatışmalar ardından Şubat 2009'da ateşkes anlaşması yapılmıştı.
Taraflar bu süre içinde ateşkese büyük ölçüde uydular.
Abdülmelik el Huti liderliğindeki isyancılar, dini ve sosyal açıdan ayrımcılığa uğradıklarını söylüyor.
İsyancılar Şubat başında hükümet karşıtı eylemleri destekleme kararı almıştı.
Yemen'de hükümet, kuzeydeki isyancıların yanı sıra güneydeki ayrılıkçılar ve El Kaide militanlarıyla da mücadele ediyor.
Güney ve Kuzey Yemen 1990 yılında birleşmiş, 1994'te ülkede kısa süren bir iç savaş yaşanmıştı.
BBC
