AI içeriği interneti doldururken, Pangram bunu tespit etmek için 9M$ topladı

New York merkezli yapay zeka tespit girişimi Pangram, internete yayılan yapay zeka istilasıyla mücadele etme misyonunda ve insan tarafından oluşturulan içeriği yapay zeka tarafından oluşturulan metinden ayıran araçlara olan talebin daha da artacağı iddiasıyla kısa süre önce 9 milyon dolar topladı. Haystack, ScOp, Script Capital ve Cadenza'nın katılımıyla Menlo Ventures liderliğindeki Pangram'ın bağış toplaması, startup'ın aynı zamanda yeni nesil yapay zeka metin algılama modeli Pangram 4'ü ve yapay zeka görüntü algılama modeli Pangram Image'ı piyasaya sürmesiyle gerçekleşti. Pangram, yeni metin algılama modelinin yapay zeka destekli yazıları ve insan-yapay zeka karışımı içeriği bulmada %99'un üzerinde doğruluğa sahip olduğunu ve ayrıca yapay zeka insanlaştırıcı programlarını daha kolay algılayabildiğini söylüyor. Yapay zekalı görüntü algılayıcı şimdilik yalnızca araştırma önizlemesi aracılığıyla kullanılabilir; Pangram önümüzdeki haftalarda daha geniş çapta yayınlamayı planlıyor. Stanford AI ve makine öğrenimi mezunları Max Spero ve Bradley Emi, yaklaşık iki yıl önce Pangram'ı başlattılar; ChatGPT'ın piyasaya sürülmesi, botlarla, AI tarafından oluşturulan SEO içerikleriyle ve Spero'nun "LLM destekli Rus dezenformasyon kampanyaları ve Twitter'da BAE'den etkilenen kampanyalarla dolu" bir internetin kapılarını açmasının ardından. Spero, TechCrunch'a "Baktığınız şeyin yapay zeka tarafından üretilmiş bir şey olup olmadığını bilmenin inanılmaz derecede değerli olduğunu düşünüyorum" dedi. “Özellikle okuduğunuz metin, çünkü insanların metne yaklaşımını değiştiriyor.

Bu, halüsinasyonlara karşı dikkatli olup şüpheyle yaklaşmam gereken bir şey mi, yoksa bunun gerçek bir gazeteci tarafından iyi araştırıldığına güvendiğim bir şey mi?” Pangram'ın yapay zeka algılama sistemi, aslında on milyonlarca bilinen insan belgesi üzerinde eğitilmiş büyük bir makine öğrenimi modelidir. Başlangıç daha sonra her belge için konuyu, uzunluğu ve ses tonunu kopyalayan ancak sınır yüksek lisansı tarafından yazılan bir "sentetik ayna" oluşturdu. Spero, "Modelimiz, yapay zekanın tutarlı bir şekilde yaptığı stilistik farklılıkları ve seçimleri öğreniyor ve bunu, yapay zeka tarafından oluşturulan bir şeyi yüksek güvenle neyin oluşturduğunu öğrenmek için kullanabiliyor" dedi ve yapay zeka dedektörünün kopyala-yapıştır meta verilerine veya gizli filigranlara dayanmadığını ekledi. Pangram için yapay zeka tespiti yalnızca bir metin parçasının tamamen yapay zeka tarafından yazılıp yazılmadığıyla ilgili değil. Bu aynı zamanda yapay zeka desteğinin seviyeleri arasında ayrım yapmakla da ilgilidir; örneğin, kendisi bir şeyler yazan ancak daha sonra yapay zekadan bunu düzenlemesini veya temizlemesini isteyen birinin durumunda olduğu gibi.