Bir metnin yapay zeka tarafından mı yoksa bot tarafından mı yazıldığını nasıl anlarsınız?

Ne zamandan beri inteligência yapay araca dahil edildi GPT 2Birçoğu metin oluşturma becerisine şaşırdı. Tarafından oluşturulan araç OpenAIHatta bilim adamlarının tek boynuzlu atları keşfettiğini gösteren kurgusal bir metin bile oluşturdu. Ancak botlar tarafından yazılan metinlerin geniş çapta kullanılması tartışmalara yol açtı: Bir metnin gerçekten yapay zeka tarafından yazılmadığını nasıl anlarsınız?

yapabilen bir algoritma programlamayı hedefliyoruz. ne olduğunu kontrol et AI tarafından yazılmıştırbilim adamlarından oluşan bir ekip Massachusetts Teknoloji Enstitüsü (MIT)) adı verilen bir sistem geliştirdi GLTR. Ancak MIT bu yarışta yalnız değil.

Ayrıca akıllı algoritmalar tarafından neyin üretilip üretilmediğini belirleyecek bir cetvel arayan OpenAI 31 Ocak'ta ChatGPT sisteminde yeni bir özellik başlattı. Artık otomatik metin oluşturucuyu kullanan herkes bu seçeneği belirleyebilir sınıflandırıcı aracı (sınıflandırma aracı, ücretsiz çeviride) AI metinlerini kontrol etmek için.

ChatGPT'nin Ortaya Çıkışı: Otomatik metinler nasıl ortaya çıktı?

Nerede olduğunu anlamak için ChatGPT, insanların uygulamanın arkasındaki kuruluşu bilmesi gerekiyor. 2015 yılında oluşturulan bu OpenAI bugün CEO'su olduğu algoritmanın yapımını başlatan kişi Sam Altman. Şirket, ileri düzeyde araştırmalar yürütmeyi hedefliyor inteligência yapay. Lansmanı sohbet 30 Kasım 2022'de gerçekleşti ve kullanıcıların çeşitli sorularını yanıtlamak için tasarlandı.

"[ChatGPT] soruları yanıtlamak, hataları tanımak, yanlış varsayımları belirlemek ve uygunsuz istekleri reddetmek için tasarlanmıştır."

Yapay zeka ile sohbetin nasıl çalıştığı hakkında yapay zekayı açın

Tarafından oluşturulan başka benzer otomasyonlar da var OpenAI. Örnekler: talimatGPTkullanıcılara talimatlar ve cevaplar sunmayı amaçlayan ve DALL · EKullanıcı isteklerine göre görseller oluşturabilen.

Otomatik metin oluşturma aracının dezenformasyon üretimini artırabileceğinin farkında olan şirket, bir değişiklik yapmaya karar verdi. Sınıflandırma aracını duyurmanın yanı sıra, OpenAI ChatGPT kullanımının sahte haber oluşturmak için kullanılması halinde tehdit oluşturabileceği konusunda uyardı.

Yapay zeka tarafından yazılan metinlerin değerlendirilmesi nasıl çalışır?

Proje GPSıfır İşlevi yapay zeka tarafından oluşturulan metinlerin yazarlığını doğrulamaktı. Temel olarak algoritma, eserin yazarlığının olup olmadığını değerlendirir. ChatGPT İncelenen metinlerde Ayrıca, uygulama şunları görür: metnin hesaplamalar yoluyla karmaşıklığı ve cümle farklılıkları vardır. Uygulamanın mucidi, 22 yaşındaki bir öğrenci olan Edward Tian'dı. Princeton Üniversitesi, ABD'de. Hesaplama yöntemlerini geliştirmenin yanı sıra Streamlit kütüphanesini kullanarak Python ile algoritmayı oluşturdu.

İle bir röportajda Guardian, Tian büyük teknoloji şirketlerinin ilgisi olmadan ChatGPT'nin intihal amacıyla kullanımını durdurmanın zor olduğunu kaydetti. Motivasyonla ilgili olarak, fikrin kullanımından kaçınmak olduğunu belirtti. yazılımları uygunsuz kopya dedektörlerinden kaçmayı başaran.

Sınıflandırma aracı nasıl çalışır? OpenAIbuna karşılık bazı sınırlamaları vardır. Ayrıca bazı testlerden geçmektedir ve oluşturulma yöntemi makine öğrenimini içermektedir. Bu aşamada yapay zekanın yazdığı metin, aynı konuyu ele alan, insanların yaptığı üretimlerle karşılaştırıldı.

GPTZero'da AI yazılı metin algılama

Tarafından oluşturulan araç İLE basit bir teknik kullanarak robotik yazarlığı doğrulayabilir. Yani yarattığı yolu takip eder. GPT 2 üretmek metinler: Her bir kelimenin hemen ardından hangi kelimelerin gelme ihtimalinin yüksek olduğunu görmek. Böylece GLTR yazılanların gerçekten bir kişi tarafından yapılıp yapılmadığını kontrol eder ağız.

O GLTR basit bir işaretle kullanıcılara metnin yapay zeka tarafından yazılmış olup olmadığını gösterir. Eğer böyle bir algoritma varsa GPT 2metin yeşil renkte görünür. Mor, kırmızı ve sarı gibi diğer renkler metnin bir yazar tarafından yazıldığının daha muhtemel olduğunu gösterir. insan.

Bir metnin insan tarafından yazılmış gibi geçmesinde en önemli etken, hangi kelimelerin arka arkaya gelebileceğinin varsayımıdır. Ancak bunu yaratan bilim adamları GLTR tarafından yazılan bir metni engelleyen şeyin tam olarak öngörülemezlik olduğunu belirtir. IA fark edilmemek.

“Aslında sıradan yazılar genellikle metnin temasıyla daha anlamlı olan, tahmin edilemeyen kelimeleri seçer. Bu, bir metnin gerçekten bir insandan gelme ihtimalinin daha yüksek olup olmadığını kontrol edebileceğimiz anlamına geliyor."

Fütürizm web sitesi için GLTR algoritmasından sorumlu bilim adamları

Ancak teknoloji GLTR iyileştirmelerden geçmesi gerekiyor. Bazen metin bir insan tarafından yazılmış olabilir ancak algoritma yanlışlıkla metnin başka biri tarafından yazıldığını iddia eder. ağız. Bu nedenle, AI metinlerinin oluşumunu kontrol etmek daha fazla araç gerektiren bir görev olacaktır.

ChatGPT'de OpenAI Sıralama Aracı

A sınıflandırıcı aracı en az bin karakterden oluşan metin prodüksiyonlarının otomatik veya organik yazarlığını doğrulama sınırlamasına sahiptir. Makine eğitiminden oluşturulan çözümün hala bazı ayarlamalardan geçmesi gerekiyor çünkü hala yazılanları karıştırıyor IA bazı insanların ürettiği şeylerle.

"Bir dizi İngilizce metinle yaptığımız değerlendirmelerde, sınıflandırıcımız yapay zeka tarafından yazılan metinlerin %26'sını (gerçek testler) 'muhtemelen yapay zeka tarafından yazılmış' olarak doğru bir şekilde tanımlarken, insan tarafından yazılan metinlerin %9'unun yapay zeka tarafından yazıldığını hatalı bir şekilde tanımlıyor. zaman (yanlış pozitifler)”.

OpenAI

Yapay zeka şirketinin radarında ekstra bir tehlike var. Sonunda, otomatik üretime sahip metinler, otomatikleştirilmiş metinler tarafından oluşturulan içerikte kalıplar bulmaya çalışan öğrenciler tarafından yeniden uyarlanabilir. inteligência yapay ve onları nasıl aşacağınızı bilin. Bu şekilde, OpenAI Yeni sınıflandırma özelliğinin şimdilik örneğin bir yapımın bottan gelip gelmediğini kesin olarak belirlemek için kullanılamayacağını belirtmekte fayda var. Beklenti, şirketin yakın gelecekte bu zorlukta daha fazla ilerleme kaydedebilmesidir.

Şunu da görün: ChatGPT, ABD'de MBA, Hukuk ve Tıp sınavlarını geçer.

Kaynaklar: Guardian | Olhar Dijital | PC Mag | Fütürizm | Hitc.

Tarafından gözden geçirildi Glauco