seo offpage

Hướng dẫn cách chặn bot ahrefs thành công 100%

Hướng dẫn cách chặn bot ahrefs thành công 100%
Trịnh duy thanh
23/02/2022 - 07:51
96

Ahrefs được các Seoer sử dụng để  lần theo đối thủ, soi backlink của đối thủ từ đó tiếp cận nguồn tài nguyên seo của đối thủ. Tuy nhiên, Ahrefs hoạt động dựa trên việc tạo các con bot. Những con Bot này sẽ di chuyển đến từng website, tra xét thông tin của các trang web đó và trả về kết quả. Đây cũng chính là một trong những nguyên nhân khiến bài viết của bạn bị ăn cắp thông tin. Do đó, để bảo vệ thông tin các bài viết trên trang của mình, bạn cần chặn các con bot này. Vậy làm thế nào để chặn Bot Ahrefs hiệu quả nhất, triệt để nhất. Cùng City IT tìm hiểu nội dung bài viết dưới đây!

Ahrefs là gì? Vì sao cần chặn bot Ahrefs?

Ahrefs là một công cụ cần trả phí dùng để phân tích thông tin của website bất kỳ. Công cụ này hỗ trợ cho việc SEO rất tốt nên được đa số mọi người sử dụng.

Ahrefs là gì?
Tìm hiểu khái niệm Ahrefs là gì?

SEO là viết tắt của từ tiếng anh, tạm dịch là tối ưu hóa công cụ tìm kiếm. SEO tốt cần tìm được chủ đề tốt và từ khóa tốt. Do đó, nhiều SEOer đã dùng nhiều biện pháp và công cụ trợ giúp để tìm ra chúng, trong đó có Ahrefs.

Chức năng Tools của Ahrefs tạo ra các con bot rồi thả vào website. Chúng quét qua các trang web để lấy thông tin cho người tìm kiếm như Backlinks, Referring Domains, Organic keywords, Top pages…

tools Ahrefs thường được sử dụng để tra được từ khóa, chủ đề, Backlinks của đối thủ. Các thông tin quan trọng khác có thể kể đến đó là mã miền, thứ hạng xếp hạng trên Google, từ khóa.

Vì sao cần chặn bot Ahrefs?
Nên hay không nên chặn bot Ahrefs?

Nhưng quan trọng nhất vẫn là Backlinks. Backlink là các nguồn, các nhà tài trợ. Các Backlink chứa rất nhiều thông tin hữu ích giúp một trang web “lên đời”. Trong thời đại các Backlink chất lượng ngày càng ít, thì dùng Ahrefs để tra được một vài cái cũng là ý tưởng không tồi.

Bên cạnh đó, con bot cũng sẽ thu thập thông tin các bài viết có lượt tương tác cao trong trang web. Đây là cách học trên những kinh nghiệm và kết quả của đối thủ. Nước đi sáng suốt này có thể bù đắp cho những thiếu sót của trang web bạn. Vì để các thông tin quan trọng của trang web không bị rò rỉ thì bạn cần chặn các con bot này.

Chặn bot ahref bằng code vào file header

Đây là cách triệt để nhất để chặn bot Ahrefs. Phương pháp này phù hợp với các bạn không hiểu biết quá nhiều về môn lập trình.

Cách làm

Bạn cần ghi thêm đoạn code này vào vị trí đầu của file header.php trong thư mục

Theme đang dùng:

<?php $useragent = $_SERVER [‘HTTP_USER_AGENT’];

if (preg_match(‘/AhrefsBot/’,$useragent)){

wp_redirect(‘http://Google.com’);

exit();

}

?>

Giải thích

Giải thích:

  • $useragent = $_SERVER [‘HTTP_USER_AGENT’];: đoạn này hỗ trợ kiểm tra UserAgent truy cập là những tài khoản nào.
  • if (preg_match(‘/AhrefsBot/’,$useragent)){}: Cho ta biết đây có phải là con bot của Ahrefs hay không.
  • wp_redirect(‘http://Google.com’);: Nếu đó là con bot, thì đoạn này giúp điều hướng nó sang trang Google.

Theo cách này, ta đã giả lập UserAgent thành AhrefsBot và đã thử nghiệm thành công chuyển nó sang Google, trong các thống kê truy cập không còn AhrefsBot nữa.

Chặn bot Ahrefs bằng file robots.txt

Chặn bot Ahrefs bằng file robots.txt
Chặn bot Ahrefs bằng file robots.txt

Một phương pháp khác cũng đơn giản không kém để chặn bot Ahrefs lại, đó là cần thêm 2 dòng này vào file robots.txt:

user-agent: AhrefsBot

disallow: /

Ngoài ra, để kiểm soát tần suất quét qua của Ahref Bot, ta có thể thêm 2 dòng này vào file robot:

User-Agent: AhrefsBot

Crawl-Delay: 1

Thêm nữa, bạn có thể dùng cách này để chặn một số công cụ khác dò Backlink:

User-agent: AhrefsBot: chặn Ahrefs.com

User-agent: MJ12bot: chặn majesticseo.com

User-agent: chặn rogerbot: moz.com

User-agent: BacklinkCrawler: chặn Backlinktest.com

(lưu ý: mỗi dòng trên là giả lập dành cho riêng mỗi công cụ dò Backlink)

Disallow: /

Nếu bạn chưa có file robots.txt hãy xem hướng dẫn chi tiết cách tạo file robots.txt để tìm hiểu và biết thêm về cách hoạt động của nó.

Chặn bot Ahrefs bằng file htaccess

Chặn bot Ahrefs bằng file htaccess
Chặn bot Ahrefs bằng file htaccess

Tước tiên để thực hiện phương pháp này bạn cần phải có và biết được cách tạo file htaccess. sau đó bạn chèn đoạn code bên dưới vào file này

RewriteEngine On

#moz.com

RewriteCond %{HTTP_USER_AGENT} rogerbot [OR]

#majestic.com

RewriteCond %{HTTP_USER_AGENT} MJ12bot [OR]

#moz.com

RewriteCond %{HTTP_USER_AGENT} dotbot [OR]

#gigablast.com

RewriteCond %{HTTP_USER_AGENT} gigabot [OR]

#Ahrefs.com

RewriteCond %{HTTP_USER_AGENT} AhrefsBot

RewriteRule .* – [F]

Deny from .Ahrefs.com

Deny from .dotnetdotcom.org

#please remove the line below if you don’t want to block requests from AWS

Deny from .amazonaws.com

Chặn bot Ahrefs từ server

Bạn thực hiện thao tác sau để chặn bot bằng server, nghĩa là chặn IP của Ahrefs:

Server có tường lửa (Firewall) thì bạn cần chặn cả dãy 151.80.31.0/24 thì sẽ tiết kiệm thời gian. Nếu không, bạn cần truy cập cấu hình .htaccess từng trang web. Hoặc có thể đăng nhập bằng SSH vào các server bằng tài khoản Root, chạy lệnh sau cũng được.

iptables -I INPUT -s 151.80.31.0/24 -j DROP

Kết quả whois dãy IP robots của Ahrefs:

https://whois.domaintools.com/151.80.31.110

https://whois.domaintools.com/151.80.31.111

https://whois.domaintools.com/151.80.31.112

Kết luận

Như vậy, qua bài viết trên đây, City IT đã cung cấp cho bạn 4 phương pháp chặn được bot Ahrefs hiệu quả tuyệt đối. Với những cách trên, bài viết của bạn sẽ được bảo vệ và không lo chuyện bị đánh cắp thông tin bởi các bot Ahrefs. Hy vọng những chia sẻ của chúng tôi sẽ hữu ích đối với các bạn. Nếu bạn muốn tìm hiểu thêm những thông tin bổ ích về công nghệ, hãy theo dõi website City IT thường xuyên nhé!

author
Trịnh Duy Thanh
5/5 - (6 bình chọn)
Tôi là Trịnh Duy Thanh, hiện đang là CEO của BKHOST, tôi đang giữ vai trò là giám đốc của công ty kim về các mảng: Mô hình, chiến lược kinh doanh, Bán hàng, Marketing,... Với 25 năm kinh nghiệm làm việc, quản lý và điều hành các công ty Việt Nam của các tập đoàn đa quốc gia hàng đầu thế giới: ABB, Tetra Park, Metller Toledo, ProMinent,... thì tôi hy vọng có thể giúp một phần nào đó trong công việc kinh doanh của các bạn thông qua những bài chia sẻ của mình.
Bài viết liên quan
Bình luận