Ang Mata sa Iyong Bulsa at ang Taong Hindi Nito Makita

Isang babae sa kalagitnaan ng kanyang tatlumpung taon ang nagbukas ng maps app upang hanapin ang pinakamalapit na parmasya. Hindi niya alam na sa paggawa nito, na-refresh niya ang timestamp ng kanyang lokasyon, na-update ang pattern ng kanyang paggalaw, at nakapagdagdag ng isa pang data point sa isang behavioral profile na hindi niya kailanman nakita at hindi niya maaaring hilingin. Nahanap niya ang parmasya. May nahanap din ang app.

Sinimulan ni Carissa Véliz ang kanyang sanaysay saAeon sa pamamagitan ng isang tahimik ngunit mapanlinlang na pahayag: 'Ang mga bagay ay may tungkulin.' Hindi ito islogan kundi isang lente. Ang martilyo ay ginawa upang magpako; ang aparato ng pagmamanman ay ginawa upang magmanman. Ang smartphone na dala-dala ng karamihan sa atin — accelerometer, gyroscope, barometer, GPS, iris scanner na lahat ay tumatakbo sa likuran — ay hindi pangunahing idinisenyo upang pagsilbihan ang may-ari nito. Idinisenyo ito upang magmasid.

Matalim ang obserbasyon na ito sa pilosopikal na antas. Ngunit gumagawa si Véliz sa loob ng isang balangkas na, sa kabila ng kaliwanagan nito tungkol sa kapangyarihan at pananagutan, ay hindi lubusang naaabot ang pinakamalalim na sugat na idinudulot ng pagmamanman.

Mga artipisyal na likha at ang pamantayang pinagbabatayan ng paghatol sa mga ito

Tama si Véliz na ang mga artipisyal na likha ay naglalaman ng mga pagpapahalaga. Ang tradisyong Tomistiko ay nagdaragdag ng tanong:alin na mga pagpapahalaga, at laban saanong pamantayan dapat ang mga ito sinusukat. Para kay Aquino, ang natural na batas ay hindi isang hanay ng mga tuntuning ipinapataw mula sa labas ng tao kundi ang pakikilahok mismo ng makatwiran nilikha sa walang-hanggang katwiran — ang liwanag na nagbibigay sa atin ng kakayahang makilala kung ano ang nagtataguyod o sumisira sa tunay na pagyabong ng tao. Ang isang artipisyal na likha ay hindi lamang hinuhubog ng mga intensyon ng tagadisenyo nito; ito ay nasasaklawan ng moral na paghatol na nauuna pa sa mga intensyong iyon.

Si Gabriel Zanotti, sa kanyang pagbasa ngSumma Contra Gentiles ni Aquino, ay nagpahayag nang tuwiran ng prinsipyo: anumang umaakay sa tao tungo sa kanyang likas na layunin ay likas na mabuti; anumang naglalayo sa kanya ay likas na masama.[^2] Ang sukatan ay hindi ang kagustuhan ng pamilihan o ang konsensus ng demokrasya, kundi ang nakaayos na teleolohiya ng tao. Ang isang kagamitang kumukuha ng iyong lokasyon, ng iyong pulso, at ng iyong mga pattern ng pagbili ay hindi lamang banta sa iyong karapatang pulitikal. Tinatrato ka nito bilang isang nababasang bagay — isang bungkos ng mga mahuhulaan na tugon — sa halip na isang mismong-nagpapasyang paksa na nakatuon sa isang layuning transendente. Iyan ang mas malalim na paratang.

Dagdag pang binanggit ni Zanotti na bawat tao ay may karapatang sa intimidad: isang larangan ng panloob at panlabas na buhay na walang kapangyarihan, gaano man kabait, ang maaaring sakupin.[^3] Hindi ito liberal na dagdag. Ito ay tuwirang sumusunod mula sa pagkilala na ang mga tao ay hindi mga kasangkapang panlipunan. Sila ay mga persona na ang dignidad ay nabubuo sa kanilang pagkakatuon sa Diyos. Sinakop ng pagmamanman ang intimidad na iyan — hindi sa pamamagitan ng isang dramatikong panghihimasok kundi sa pamamagitan ng matiyagang pag-iipon ng sampung libong maliliit na pagkakakilanlan.

Ang panloob na buhay na muling hinuhubog ng mga algorithm

Si Juan Pablo II, saVeritatis Splendor, ay pinangalanan ang ugnayan ng kalayaan at panloob na buhay na nagliliwanag sa pinakamalalim na pag-aalala ni Véliz. Ang kalayaan, ayon sa kanya, ay hindi ang kawalan ng hadlang kundi ang kakayahang kumilos mula sa malay at personal na pagpapasya — 'na may motibo at udyok mula sa sariling kalooban, at hindi sa pamamagitan ng bulag na panloob na impulso o panlabas na presyur lamang.'[^4] Kapag ang isang teknolohiya ay ginawa upang hulaan ang iyong pag-uugali upang maimpluwensiyahan ito, ang panloob na buhay na ito ang tinatarget.

Hindi lamang itinatala ng aparato ng pagmamanman ang iyong ginagawa. Hinuhubog nito ang listahan ng mga pagpipiliang mahaharap mo, pinapalakas ang ilang emosyon, sinasala ang impormasyong umaabot sa iyo, at pinapalitan ng algorithmic na presyur — di-nakikita, walang hinto, pinong-pino — ang panloob na pagbubulay-bulay na bumubuo sa tunay na ahensiya ng tao. Isipin ito bilang isang uri ng walang-katapusang bulong sa ilalim ng antas ng kamalayan na hindi kailanman nagpapakilala bilang isang tinig.

Para kay Véliz, ang pinsala ay pangunahing pulitikal: pinagsasama-sama ng pagmamanman ang kapangyarihan, banta sa mga demokratikong institusyon, at nagpapahintulot ng awtoritaryanong kontrol. Totoo ang lahat ng iyan. Ngunit ang pinsala ay nauuna pa sa pulitikal na resulta. Ang isang tao na ang atensyon ay inaani, na ang mga kagustuhan ay patago ng inuudyukan, na ang mundong panlipunan ay kinakyurador ng isang optimization function na nakakalibre sa engagement sa halip na sa katotohanan — ang taong iyan ay hindi na lubos na malaya. Hindi lamang sa pulitikal na paraan. Bilang isang moral na ahente. Ang tiraniya na kinatatakutan ni Véliz ay bunga ng isang sugat na antropolohikal.

Huwad na Pagsang-ayon

Kinilala mismo ni Aquino na hindi kayang ipagbawal ng batas-pantao ang lahat ng kinokondena ng natural na batas. Ayon kay Zanotti, sa pagbubuod ng turo ni Aquino sa puntong ito, ang batas sibil ay wastong gumagana nang may sapat na luwag — pinarurusahan lamang ang mga paglabag na sapat ang kalubhaan upang maging imposible ang buhay panlipunan.[^5] Malaya namang nagda-download ng apps ang mga tao. Kini-click nila ang 'Sumasang-ayon ako.' Kung sila ay nasasaktan, hindi ba iyon, sa makahulugang paraan, sarili nilang gawa?

Maling pagbasa ito sa kalikasan ng pagsang-ayon na pinag-uusapan. Ang pagtanggap ni Aquino sa di-perpektong batas ay nagsasaad na ang mga ahente ay nakauunawa sa kanilang sinasang-ayunan at hindi pa nakokompromiso ng mismong istruktura ng kasunduan ang kanilang kakayahang magpasya. Kapag ang terms of service ay umaabot sa apatnapu o limampung pahina ng legal na abstraksiyon, kapag ang datos na kinokolekta ay sadyang di-nakikita, kapag ang pagbabago ng pag-uugali ay gumagana sa ilalim ng antas ng malay na pang-unawa — ang pagtawag ditong 'malayang pagsang-ayon' ay isang uri ng piksyon sa gramatika.

Ayon kay Nordling, sa kanyang pagsulat tungkol sa nahulog na kalagayan ng pangangatwiran ng tao, may likas tayong pagkahilig na maling unawain ang hinihiling ng natural na batas — at ang mga namamahala sa mga bagong kasangkapan ay may lahat ng dahilan upang ipakilala ang moral na pagsusuri bilang walang-muwang na sentimyento.[^6] Ang piksyon ng pagsang-ayon ay hindi moral na niyutral. Gumaganap ito ng mahalagang tungkulin para sa kapakanan ng isang tao.

Mga persona higit sa mga patakaran

Nagtapos si Véliz sa panawagan para sa mas mahusay na disenyo, mas mahusay na regulasyon, at mas malalim na demokratikong pananagutan. Mga karapat-dapat na layunin ang mga iyan. Ngunit higit pang hinihimok ng tradisyon: ang arkitektura ng pagmamanman ay hindi lamang pagkabigo ng patakaran. Ito ay ang sistematikong pagpapahayag ng isang maling antropolohiya — isa na nagpapaliit sa persona bilang datos ng pag-uugali at inilalagay ang pagkakakilanlan ng tao sa paglilingkod sa kapangyarihan sa halip na sa komunyon.

Ang imahen sa puso ng Tomistikong natural na batas ay mas simple kaysa anumang algorithm. Ang liwanag na nagbibigay sa atin ng kakayahang makilala ang mabuti sa masama, ayon kay Aquino, ay ang tatak ng banal na liwanag sa atin — hindi isang preference profile, hindi isang click-through rate, kundi isang pakikilahok sa mismong Logos.[^1] Kapag sinabi ni Véliz na ang smartphone sa iyong bulsa ay ginawa upang bantayan ka, may katotohanan siyang pinangalanan. Ngunit ano nga ba ang tinatanaw?

Hindi isang data subject. Isang persona na nilalang para sa isang bagay na hindi kailanman maibibigay ng pagmamanman.

[^1]: Nordling, William (2020).Created in the Image of God, sa Vitz, Nordling & Titus,A Catholic Model of the Person. Divine Mercy University Press. [^2]: Zanotti, Gabriel.Comentario a la Suma Contra Gentiles. Annex on natural law. — 'Todo lo que le lleva al conocimiento y amor de Dios es naturalmente recto, y lo que lo aparta le es naturalmente malo.' [^3]: Zanotti, Gabriel.Comentario a la Suma Contra Gentiles. Annex on natural law. — 'Las acciones morales son las ordenadas hacia el fin del ser humano.' [^4]: Juan Pablo II (1993).Veritatis Splendor. §42. [^5]: Zanotti, Gabriel.Economía de Mercado y Doctrina Social de la Iglesia. Seksyon tungkol sa natural na batas at batas-pantao. [^6]: Nordling, William (2020).Created in the Image of God, sa Vitz, Nordling & Titus,A Catholic Model of the Person. Divine Mercy University Press.

<p style="font-style:italic;">Paunawa: Ang mga pananaw at nilalaman ng post na ito ay sariling pag-aari ng may-akda. Ginamit ang AI upang makatulong sa pag-edit ng gramatika at pagpapahusay ng kalinawan.</p>