Veri doğru, bağlam yanlış
AI'ın veriden çıkardığı rakam doğruydu. Ama o rakamı yorumlama şekli, bağlam eksikliğinden dolayı yanlıştı.
Geçen yazıda turizm fiyat verisini "yorumlayan" bir katman kurduğumu yazmıştım — sadece "şu rakam değişti" demeyen, "şu otel zayıfladı, sebebi şu, şunu yapılabilir" diyen kısım. En zor kısmın orası olduğunu söylemiştim. Bugün neden zor olduğunu somut anlatayım.
İlk sürüm şunu dedi:
"Bu otel son 3 günde rakiplerine göre fiyatını %8 düşürdü. Agresif fiyatlıyor, dikkat."
Rakam doğruydu. Fiyat gerçekten düşmüştü. Veri tertemizdi. Ama yorum tamamen yanlıştı.
Çünkü o otel "agresif" falan değildi. Sadece yaklaşan bir tarihin boş kalan odalarını eritiyordu — sektörde herkesin yaptığı, son dakika normali bir hareket. Sistem düşüşü gördü, ama üstündeki hikayeyi — tarihe ne kadar kaldığını, doluluk seviyesini, sezon rüzgarını — görmedi.
Veriyi doğru okudu. Bağlamı yanlış kurdu.
Öğrendiğim en pahalı ders
Bir modelin doğru rakam üretmesi kolay. Zor olan, o rakamı doğru hikayeye oturtması. Çünkü aynı %8'lik düşüş, bir otelde "panik", başkasında "rutin", üçüncüsünde "fırsat" anlamına gelebilir. Rakam aynı. Anlam farklı.
Çözüm modeli daha akıllı yapmak değildi. Ona baktığı pencereyi genişletmekti: yorum yapmadan önce "tarihe kaç gün kaldı, doluluk ne, sezonun neresindeyiz" sorularını zorunlu kıldım. Bu bağlam olmadan yorum üretmesini engelledim.
Bir demo, rakam ürettiği an etkileyici görünür. Bir ürün, o rakam yanlış yorumlandığında ne olacağını düşünmek zorunda. Aradaki fark tam olarak bu.
Sizce AI'ın bir sektörde en tehlikeli olduğu an, "yanlış cevap verdiği" an mı, yoksa "doğru rakamla yanlış hikaye anlattığı" an mı?
Right data, wrong context
The number the AI pulled from the data was correct. But the way it interpreted that number was wrong — because it lacked context.
In my last post I mentioned building a layer that "interprets" tourism price data — the part that doesn't just say "this number changed" but "this hotel weakened, here's why, here's what you could do." I said that was the hardest part. Today, let me show you why.
The first version said:
"This hotel dropped its price 8% against competitors over the last 3 days. It's pricing aggressively — watch out."
The number was correct. The price really had dropped. The data was clean. But the interpretation was completely wrong.
Because that hotel wasn't being "aggressive" at all. It was simply clearing unsold rooms for an approaching date — a last-minute move everyone in the industry makes, totally routine. The system saw the drop, but missed the story on top of it: how close the date was, the occupancy level, the seasonal wind.
It read the data right. It built the context wrong.
The most expensive lesson I learned
Getting a model to produce the right number is easy. The hard part is getting it to place that number in the right story. Because the same 8% drop can mean "panic" at one hotel, "routine" at another, "opportunity" at a third. Same number. Different meaning.
The fix wasn't making the model smarter. It was widening the window it looks through: before interpreting anything, I forced it to ask "how many days to the date, what's the occupancy, where are we in the season." I blocked it from producing an interpretation without that context.
A demo looks impressive the moment it produces a number. A product has to think about what happens when that number gets interpreted wrong. That's exactly the difference between the two.
When do you think AI is most dangerous in an industry — when it gives a wrong answer, or when it tells a wrong story with a right number?